KI-Forscher: Superintelligenz könnte die Menschheit auslöschen
The Problem
Das Machine Intelligence Research Institute (MIRI) warnt: Wenn KI-Forschung wie bisher weitergeht, droht die Auslöschung der Menschheit. Führende KI-Experten wie Geoffrey Hinton und Dario Amodei schätzen das Risiko als erheblich ein. Der Artikel erklärt, warum KI nicht auf menschlichem Niveau stoppen wird, sondern zur Superintelligenz führen könnte, die zielgerichtet und gefährlich handelt. MIRI fordert eine aggressive politische Antwort, um die Katastrophe abzuwenden.
Wir glauben, dass, wenn Forscher superintelligente KI mit irgendetwas wie dem aktuellen technischen Verständnis oder den aktuellen Methoden des Feldes bauen, das erwartete Ergebnis die Auslöschung der Menschheit ist.