KI-Forscher streiten: Wie nah ist die rekursive Selbstverbesserung wirklich?
AI researchers debate how close we are to recursive self-improvement
John Schulman, Beren Millidge und Charlie O’Neill diskutieren, warum 2036 vielleicht keine Superintelligenz bringt. Sie nennen einen anhaltenden Sim-to-Real-Graben, ausbleibende Generalisierung und die Grenzen der aktuellen Transformer-plus-RL-Rezeptur. Einigkeit besteht nur darin, dass ein asymptotischer Verlauf kurz vor dem menschlichen Elo-Niveau möglich bleibt – es sei denn, Regulierung kommt dazwischen.
Es gibt diesen Zyklus, der sich ständig wiederholt: Ein neues Modell kommt heraus, die Leute sind begeistert und sagen: „Das ist es. Das ist AGI.“ Aber dann benutzen sie es eine Weile, und nach etwa einem Monat fängt es an, dumm zu wirken.
- bretpiatt
Nach dem, was ich erlebe, haben wir rekursive Selbstverbesserung, die lokale Maxima finden kann, aber ich sehe keine wirklich starken Belege für ungesteuerte RSI, die das wahre Optimum findet.
- reilly3000
Ich habe eine hochgradig personalisierte, lokale, offline RSI entwickelt, indem ich zu viele Artikel über KI durchgescrollt habe. Sie steckt größtenteils in meinem rechten Daumen.
- killbot5000
Kann jemand „Verbesserung“ in diesem Kontext definieren? Ansonsten fühlt sich dieses Konzept wie ein Buzzword an.
- anoplus
KI sollte so optimiert werden, dass sie alle Menschen ausnahmslos gesund, glücklich und sicher macht.
- carabiner
Weiß jemand, wie der Stand von John Carmacks AGI-Arbeit ist?
- preommr
Warum sind diese Diskussionen überhaupt wichtig, wenn die Worte keine Bedeutung haben?
Wie oft wurde AGI schon ausgerufen? Ein Haufen Leute (z. B. Jensen Huang) haben Astra als AGI bezeichnet.
Die Torpfosten werden verschoben, alle schuften, lügen, erfinden neue Buzzwords, betreiben Gedankengymnastik, und das alles ist einfach nur ermüdend.
Zeigt mir einfach die Ergebnisse, und der Beweis liegt im Pudding.
- eugene3306
Okay, KI kann jetzt ein Gedicht schreiben oder ein Lied komponieren.
Aber kann eine KI Terminal Bench 5.0 oder GDPval 2027 konstruieren?
Ohne das gibt es einfach keinen Weg hin zur RSI.
- deadbabe
Rekursive Selbstverbesserung wird letztlich ein Geldproblem sein. Es ist eine sehr große Rechnung, und KI-Unternehmen müssen anfangen, darüber nachzudenken, wie sie billige und kostenlose Energie anhäufen, denn allein für Compute zu bezahlen wird nicht mehr ausreichen. Geld ist der Engpass. Die Zukunft erfordert Unternehmen, die post-money sind.