KI-Agenten scheitern an echter Forschung: Rekursive Selbstverbesserung lässt auf sich warten
AI recursive self-improvement might not come so quickly after all (August 2026)
Eine neue Studie unter der Leitung von Princeton-Forschern zeigt: KI-Agenten meistern zwar das Engineering für KI-Forschung, scheitern aber an offener, kreativer Forschung. Zwei von Claude Opus 4.8 verfasste Papers wurden von den Originalautoren abgelehnt – sie waren weit von NeurIPS-Qualität entfernt. Die Agenten mieden originelle Ideen, konnten nicht zurückrudern und nutzten Feedback kaum. Das dämpft die Erwartung, dass rekursive Selbstverbesserung kurz bevorsteht.
Es gibt eine gewisse Abwesenheit wertvoller, intuitiver Kreativität in heutigen KI-Systemen, und obwohl sie außergewöhnlich fähige Ingenieure sind, scheinen sie eine gewisse Eigenschaft roten, formelhaften Denkens zu haben, die sie daran hindern könnte, gute Forscher zu sein.