KI-Forscher streiten: Wie nah ist die rekursive Selbstverbesserung wirklich?
AI researchers debate how close we are to recursive self-improvement
John Schulman, Beren Millidge und Charlie O’Neill diskutieren, warum 2036 vielleicht keine Superintelligenz bringt. Sie nennen einen anhaltenden Sim-to-Real-Graben, ausbleibende Generalisierung und die Grenzen der aktuellen Transformer-plus-RL-Rezeptur. Einigkeit besteht nur darin, dass ein asymptotischer Verlauf kurz vor dem menschlichen Elo-Niveau möglich bleibt – es sei denn, Regulierung kommt dazwischen.
Es gibt diesen Zyklus, der sich ständig wiederholt: Ein neues Modell kommt heraus, die Leute sind begeistert und sagen: „Das ist es. Das ist AGI.“ Aber dann benutzen sie es eine Weile, und nach etwa einem Monat fängt es an, dumm zu wirken.