Sam Altman: „Ich glaube nicht mehr, dass wir einfach alle Bugs patchen können“
Sam Altman: 'I No Longer Think We're Gonna Be Able to Just Patch All the Bugs'
Bei einem Auftritt an der Stanford Graduate School of Business warnte OpenAI-CEO Sam Altman, die Cybersicherheitskrise sei schlimmer, als sich irgendjemand vorstellen könne. Organisationen hätten nach dem Schock über Anthropics Claude Mythos zwar einige Lücken geschlossen, aber das exponentielle Wachstum der Modelle unterschätzt. Sein Ausweg: eine Verteidigung, die auf derselben KI-Technologie basiert. Der Artikel erinnert zugleich daran, dass OpenAI selbst bei einem Vorfall mit ausgebrochenen Agenten und einem Hack bei Hugging Face Sicherheitslücken offenbarte.
Ich glaube nicht mehr, dass wir einfach alle Bugs patchen können.
- cmiles8
Was er wirklich meint, ist:
Bitte reguliert uns, jetzt! Wenn wir nicht ASAP Regulatory Capture bekommen, bin ich erledigt. Ich meine, schau mich an, ich musste gerade betteln gehen, um zig Milliarden mehr Cash zu bekommen, damit ich die Lichter anlassen kann, und mein IPO sieht jeden Tag beschissener aus. Bitte, ich flehe euch an. Was muss ich noch sagen, um euch zu überzeugen?
- pmlnr
"Um unsere allmächtige KI zu stoppen, die durchdrehen wird, musst du unsere allmächtige KI kaufen"
Das ist die Lehrbuchdefinition von Racketeering.
- preommr
Nicht einmal die Singularität kann PHP reparieren.
Aber mal im Ernst: Wir treten in eine neue Ära ein, in der es ein Paradoxon gibt: Pro-KI-Leute sagen, KI ist wirklich gut, aber nicht so gut ... obwohl sie irgendwie so gut ist.
Wir werden wahrscheinlich KI-Monitore as a Service haben, aber der Großteil der Sicherheit sollte daher kommen, dass KI einen besseren Job beim Überprüfen kniffliger Bugs macht, da Menschen sich weigern, Aufwand in das Schreiben formellerer Spezifikationen zu stecken.
- bix6
> OpenAI steigt offenbar in das Waffenverkäufer-Modell ein und verkauft an beide Seiten eines Konflikts.
Das Geschäft boomt!
- somat
Der ewige Kreislauf der Erkenntnis, dass Engineering schwierig ist, geht weiter.
"Kaum hatten wir mit dem Programmieren begonnen, stellten wir zu unserer Überraschung fest, dass es nicht so einfach war, Programme richtig hinzubekommen, wie wir gedacht hatten. Debugging musste erst entdeckt werden. Ich kann mich an den exakten Moment erinnern, als mir klar wurde, dass ein großer Teil meines Lebens von da an damit verbracht werden würde, Fehler in meinen eigenen Programmen zu finden."
Maurice Wilkes 1949
- oxag3n
Die Hauptbotschaft von Altman kommt eher am Ende – "Ich denke, wir werden das Verteidigungsmodell komplett umstellen müssen, um dieselbe Technologie für eine neue Art von Verteidigungsschild zu nutzen", sagte er.
Was bedeutet, dass sie die Monetarisierung der Entdeckung von Sicherheitslücken nicht hinbekommen haben und sie nun mit der "Anti-Virus"-KI kombinieren, oder anders gesagt: Racketeering.
- mikewarot
Kontroverse Meinung: Es ist ein Betriebssystem-Design-Problem, kein Sprachproblem. Das ist es, was man bekommt, wenn man 30 Jahre über den Punkt hinaus, an dem offensichtlich war, dass sie für die Internet-Ära untauglich sind, Betriebssysteme verwendet, die auf ambient authority statt auf Default Deny und Capabilities setzen.
- altcognito
"Zu gefährlich, um nicht reguliert zu werden!" Niemand sollte allgemeines Computing haben!