Dario Amodei fordert: Wir müssen die KI-Grenze drosseln
We Must Pace the Frontier
Dario Amodei, CEO von Anthropic, warnt vor den Risiken einer ungebremsten KI-Entwicklung. Angesichts rekursiver Selbstverbesserung und Vorfällen wie dem OpenAI-Hugging-Face-Zwischenfall plädiert er für ein langsameres Tempo. Sein Drei-Stufen-Plan sieht eingebettete externe Prüfer, demokratische Koordination und globale Zusammenarbeit vor. Anthropic verpflichtet sich einseitig zur ersten Stufe: unabhängige Evaluatoren mit Mitarbeiterzugang sollen Sicherheitspraktiken überprüfen.
Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern. Der Fortschritt wird immer noch schnell erscheinen, und wir müssen die gewonnene Zeit klug nutzen.