Wann ist eine KI fertig? Die Kunst, Schleifen konvergieren zu lassen
Knowing When to Stop: The Art of Making a Loop Converge
Loop Engineering verspricht, KI-Agenten autonom arbeiten zu lassen, doch der Erfolg hängt von vier Bedingungen ab: einem Zielzustand, einem beobachtbaren Ist-Zustand, präzisen Änderungsmöglichkeiten und einer Stoppregel. Der Artikel von a16z zeigt, dass Editierbarkeit und Verifizierbarkeit entscheidend sind und dass Schleifen oft nur auf den Verifizierer konvergieren, nicht auf die Absicht des Nutzers. Zudem sind die Erträge logarithmisch, und übermäßige Iterationen können sogar schaden.
„Fertig“ ist selten eine Eigenschaft der Arbeit selbst. Es ist ein Urteil, das vom System um die Arbeit herum produziert wird.