KI-Feedbackschleifen: Warum eine Explosion der Intelligenz nicht automatisch folgt
The Economics of Recursive Self-Improvement [pdf]
Ein Forschungsteam um Tom Cunningham (METR) modelliert die Ökonomie rekursiver Selbstverbesserung (RSI) von KI. Die Autoren zeigen, dass eine selbsterhaltende Beschleunigung der KI-Fähigkeiten nur dann eintritt, wenn die Produkt der Elastizitäten in den Feedbackschleifen einen kritischen Wert überschreitet. Eine Kalibrierung mit aktuellen Daten (Epoch Capabilities Index, Coding-Agent-Uplift) ergibt, dass die Rückkopplung derzeit nicht stark genug ist (ca. 9 % statt der benötigten 15 %), sich aber verstärkt. Der Beitrag unterscheidet zwischen engen und breiten KI-Fähigkeiten, diskutiert Engpässe und liefert eine Wunschliste an Daten, die KI-Unternehmen öffentlich teilen könnten, um die Debatte zu versachlichen.
Eine Überschlagsrechnung legt nahe, dass die Feedbackschleifen derzeit nicht stark genug sind, um eine selbsterhaltende Beschleunigung zu erzeugen, auch wenn sie sich zu verstärken scheinen.