Plan A: Wie die Menschheit die KI-Superintelligenz bis 2040 verzögern kann
AI 2040: Plan A
Die Autoren von AI 2027 präsentieren mit Plan A ein positives Szenario, um eine KI-bedingte existenzielle Katastrophe zu vermeiden. Statt eines riskanten Wettlaufs zur Superintelligenz empfehlen sie ein internationales Abkommen mit totaler Forschungstransparenz, das es mehreren Unternehmen weltweit ermöglicht, langsam und sicher gemeinsam aufzusteigen. Das Szenario sieht eine Pause auf dem Niveau menschlicher Top-Experten bis 2040 vor, bevor die Skalierung zur Superintelligenz erfolgt. Der Plan ist eine Empfehlung, keine Vorhersage, und soll politische Vorschläge unter Realismus-Druck testen.
Wir glauben, dass die KI-Unternehmen wahrscheinlich ihr erklärtes Ziel erreichen werden, innerhalb der nächsten 1 bis 10 Jahre KI-Systeme zu bauen, die schlauer als Menschen sind – und wir denken, dass diese Situation schrecklich ist und uns leicht alle umbringen könnte.