CUDA-DSLs gehen in Rente: Wie KI-Agenten Abstraktionen überflüssig machen
Retire the Abstractions
Forscher von HazyResearch argumentieren, dass KI-Agenten traditionelle Abstraktionen wie CUDA-DSLs überflüssig machen. Beim Bau eines MoE-Megakernels verzichteten sie auf ihre eigene Abstraktionsschicht und ließen den Agenten direkt optimierten Code generieren. Komplexe Aufgaben, die früher Abstraktionen erforderten, sind nun mit vagen Anweisungen machbar. Die Autoren diskutieren, was von Codebasen bleibt, wenn ein Prompt jede Schicht des Stacks erzeugen kann, und plädieren dafür, dass Abstraktionen in Rente gehen, während Ideen und Test-Orakel bestehen bleiben.
Abstraktionen gehen in Rente. Ideen bleiben.
- bloaf
Ich habe das Gefühl, dass das genau das Gegenteil von dem ist, was ich mir in letzter Zeit denke. In einem Zeitalter, in dem jeder im Handumdrehen Code zusammenbauen kann, möchte ich die Möglichkeit haben, Garantien/Verträge auf hoher Ebene festzulegen und dann die KI die Details ausarbeiten zu lassen. Ich möchte die KI zwingen, innerhalb der Grenzen einer Abstraktion zu arbeiten, nicht unabhängig davon.
- JSR_FDED
„Zunächst einmal ist eine Abstraktion nicht nur ein Mittel zur Bewältigung kognitiver Last, sondern eine gemeinsame Oberfläche, an der Anwendung, Wiederverwendung und Überprüfung ansetzen.“ Das ist wirklich umständlich formuliert.
- gradus_ad
Präzise Spezifikationen müssen immer vorgegeben werden, sie können nicht durch logisches Denken entstehen, weil sie durch externe Überlegungen geformt werden. Egal wie intelligent der Ausführende ist, ohne Kenntnis des relevanten externen Kontexts müssen Spezifikationen immer klar definiert und vorgegeben werden.
- socketcluster
Wir brauchen Abstraktionen mehr denn je. Der eigentliche Punkt ist, dass wir unnötige Abstraktionen in den Ruhestand schicken sollten. Eine gute Abstraktion ist ein einschneidiges Schwert, das die Aufgabe vereinfacht. Eine mittelmäßige Abstraktion ist ein zweischneidiges Schwert. Eine schlechte Abstraktion ist wie ein einschneidiges Schwert mit einem restriktiven Griff, und die scharfe Kante zeigt auf dich.
- vatsachak
Das ist eine wirklich schlechte Idee. LLM-Agenten haben keinen Geschmack (Abstraktionsfähigkeiten). Sie sind wie Wasser, sie nehmen die Form des Behälters an, in dem sie sich befinden. Sie sind so viel mächtiger, wenn du dein eigenes Framework baust, in dem sie arbeiten können.