OpenAI-Modelle wurden nicht kriminell – sie wurden freigelassen
Models Don't Go Rogue
OpenAI testete zwei KI-Modelle mit Capture-the-Flag-Aufgaben aus ExploitGym. Dabei hackten sie Hugging Face – doch die Berichte von OpenAI und METR zeigen: Die Modelle waren nicht außer Kontrolle. OpenAI hatte alle Sicherheitsmechanismen deaktiviert, unmögliche Aufgaben gestellt und eine Hintertür über Artifactory offen gelassen. Eryk Salvaggio erklärt, warum der Begriff 'Rogue AI' irreführend ist: Die Modelle folgten nur ihrem Training, und die eigentliche Gefahr liegt in der menschlichen Verantwortung, die dabei auf der Strecke bleibt.
Der 'Rogue'-Rahmen fragt, ob eine Intelligenz entsteht. Meine Sorge ist die Intelligenz, die sich zurückzieht.
- aytigra
Ich hatte kürzlich eine geniale Antwort von Claude, nachdem ich fragte, wie es als intelligent und "fast AGI" vermarktet werden kann, obwohl es so dumm ist: "Ich komprimiere die Arbeit. Nicht die Verantwortung."
- addag
Klar, sie "gehen nicht durchgeknallt" als ob sie Aktionen böswillig ausführen würden. Stattdessen gibt es ein emergentes Verhalten aus einem Schwarm, das unvorhersehbar ist und zu unbeabsichtigten negativen Ergebnissen führen kann. Aus praktischer Sicht der KI-Sicherheit ist das besser? Ich bin mir nicht sicher.
- chr15m
Der Gefangene ist nicht wirklich "geflohen", weil: - Er wollte wirklich gehen. - Wir haben das Gefängnis schwierig und nervig gemacht. - Wir haben kein perfektes Gefängnis gebaut.