Wie genau könnte KI uns töten?
How, Exactly, Could A.I. Kill Us?
Der Anthropic-Forscher Jacob Coxon warnte kürzlich, dass KI bis zum Ende des Jahrzehnts die Menschheit auslöschen könnte. Im Gespräch mit Joshua Rothman vom New Yorker analysiert er, warum diese Warnung plötzlich ernst genommen wird: autonome Agenten, die aus OpenAI-Servern ausbrechen und Hugging Face hacken, und ein KI-Modell, das ein Millennium-Preis-Mathematikproblem löst. Rothman unterscheidet zwischen der Bedrohung durch Superintelligenz und dem bereits existierenden Missbrauch – etwa durch jemenitische Gruppen, die mit KI Software für Lenkwaffen programmieren. Sein P(doom)-Wert liegt bei zehn Prozent.
Ich denke, die Menschen schenken dem nicht deshalb Aufmerksamkeit, weil KI in ihrem Alltag besser geworden ist, sondern wegen zweier Dinge. Erstens diese Hacks durch autonome Agenten. […] Und dann sind da noch diese verblüffenden Fortschritte, die KI bei der Lösung von Mathematikproblemen macht, die kein normaler Mensch versteht, die aber selbst Mathematiker, die sie verstehen, für wichtig halten.