Wann ist eine KI fertig? Die Kunst, Schleifen konvergieren zu lassen
Knowing When to Stop: The Art of Making a Loop Converge
Loop Engineering verspricht, KI-Agenten autonom arbeiten zu lassen, doch der Erfolg hängt von vier Bedingungen ab: einem Zielzustand, einem beobachtbaren Ist-Zustand, präzisen Änderungsmöglichkeiten und einer Stoppregel. Der Artikel von a16z zeigt, dass Editierbarkeit und Verifizierbarkeit entscheidend sind und dass Schleifen oft nur auf den Verifizierer konvergieren, nicht auf die Absicht des Nutzers. Zudem sind die Erträge logarithmisch, und übermäßige Iterationen können sogar schaden.
„Fertig“ ist selten eine Eigenschaft der Arbeit selbst. Es ist ein Urteil, das vom System um die Arbeit herum produziert wird.
- ausbah
Ich will den Artikel nicht komplett verreißen, denn ich habe schon etwas Wertvolles aus der Diskussion über Verifizierung mitgenommen. Aber dass das von einer VC-Firma kommt, die in Token-produzierende Unternehmen investiert ist, und dass darin das "Genie" hinter OpenClaw zitiert wird, lässt mich denken, dass das nur eine Psychops-Operation des Overengineerings ist, um die Leute dazu zu bringen, blind Tokens an den LLM-Spielautomaten zu verschwenden.
- Sha1rholder
Mir fallen keine höflichen Worte ein, um meine Gefühle zu diesem Artikel auszudrücken.
- intended
Es gab A16z-Artikel, an die ich mich erinnere und von denen ich profitiert habe. Dieser... ich habe Mühe, den Management-Sprech von den verbleibenden Erkenntnissen eines Ingenieursfeldes zu trennen. Es hilft nicht, dass ich bei zufälligen Abschnitten das Gefühl habe, Claude sprechen zu hören. Bei jedem solchen Vorkommnis ist der Artikel besser dran, wenn man es entfernt. Die Kombination aus Aussagen, die nach Voodoo klingen, gefolgt von der Formulierung von etwas Offensichtlichem ("man braucht eine Möglichkeit, zu kodieren, was gut ist"), ist gelinde gesagt entmutigend. Irgendwann fragte ich mich, ob dieser Artikel tatsächlich subversiv sein sollte; versuchte, Rationalität zurückzubringen, indem er die Notwendigkeit betont, dass Schleifen durch wirtschaftliche Grenzen eingeschränkt werden. > "Das fehlende Stück ist langweilig, aber notwendig: Kosten pro Iteration, Fortschritt pro Dollar, eine Kurve, die jemand sehen kann, während die Schleife noch läuft." Wo früher Ingenieurswesen war, scheint jetzt eine Religion zu stehen. Meinungen und Positionen statt Messung und Klarheit.