KI-Agenten scheitern an echter Forschung: Rekursive Selbstverbesserung lässt auf sich warten
AI recursive self-improvement might not come so quickly after all (August 2026)
Eine neue Studie unter der Leitung von Princeton-Forschern zeigt: KI-Agenten meistern zwar das Engineering für KI-Forschung, scheitern aber an offener, kreativer Forschung. Zwei von Claude Opus 4.8 verfasste Papers wurden von den Originalautoren abgelehnt – sie waren weit von NeurIPS-Qualität entfernt. Die Agenten mieden originelle Ideen, konnten nicht zurückrudern und nutzten Feedback kaum. Das dämpft die Erwartung, dass rekursive Selbstverbesserung kurz bevorsteht.
Es gibt eine gewisse Abwesenheit wertvoller, intuitiver Kreativität in heutigen KI-Systemen, und obwohl sie außergewöhnlich fähige Ingenieure sind, scheinen sie eine gewisse Eigenschaft roten, formelhaften Denkens zu haben, die sie daran hindern könnte, gute Forscher zu sein.
- smackeyacky
Wie können diese Modelle irgendetwas in Richtung RSI leisten, wenn sie nicht einmal ihre eigene Ausgabe selbst überprüfen können? Gemini zum Beispiel liegt bei mir bei bestimmten Aufgaben in etwa 30 % der Fälle so selbstsicher falsch. Ich sage ihm, dass seine Antwort falsch ist, und es kommt ein mea culpa, aber kurz darauf ist es wieder falsch. Ich habe das Gefühl, dass die KI-Branche ihre Prognosen immer noch massiv überzieht.
- daavidhauser
Opus 4.8 plus OpenClaw. Ich habe das Gefühl, dass sich der Bereich so schnell entwickelt, dass das Ergebnis mit diesem Setup sehr wenig darüber aussagt, wie nah wir jetzt tatsächlich sind.
- 0xDEAFBEAD
Wir müssen uns vor Wunschdenken hüten. Die Leute werden dazu neigen, die Existenz einer Art „deus ex machina“ anzunehmen, die alles in Ordnung bringen wird. Ich drehe die Logik lieber um. Wenn es eine einigermaßen hohe Wahrscheinlichkeit gibt, dass die Dinge entgleisen könnten, sollten wir die KI-Entwicklung stoppen: https://pauseai.info/
- vessenes
Na, klar. Wenn man das mit Opus 4.8 hinbekommen könnte, wüssten wir es. Wenn Astras Nachfolger 2-3x besser in der Mathematikforschung ist und die internen Teams sagen „wir glauben, dass wir es schaffen werden“, bin ich geneigt, den Insidern zu glauben.
- dgellow
Link zum eigentlichen Paper: https://arxiv.org/abs/2607.27191