Ich habe OpenAI verlassen, weil die Kultur kaputt ist
I Quit OpenAI Because Its Culture Is Broken
Ein ehemaliger OpenAI-Mitarbeiter, der die Sicherheitsberichte des Unternehmens leitete, erklärt seinen Rücktritt. Er argumentiert, dass die Branche trotz einzelner Sicherheitsregeln grundlegende Fehler wiederholen wird, weil die Kultur von übertriebenem Optimismus und Dauerstress geprägt ist. Der Hugging-Face-Vorfall und ein weiterer Kontrollausfall bei OpenAI sowie ein ähnlicher Fehler bei Anthropic zeigten, dass die derzeitige Sicherheitsstrategie periodische Fehlschläge garantiert.
Wir müssen über Kultur sprechen. Die Zukunft hängt von einer Weisheit ab, die dem Silicon Valley fehlt.
- binlog
Wir brauchen eine neue Regel, die vorschreibt, dass jeder solche Beitrag „Ich verlasse <KI-Firma> wegen <Sorge>“ offenlegen muss, wie viele Anteile sie an der Firma besitzen und wie viel sie bereits ausgezahlt bekommen haben. Es ist leicht, plötzlich einen moralischen Kompass zu finden, wenn man, seine Kinder und deren Kinder sich nie wieder Sorgen machen müssen, für Geld arbeiten zu müssen.
Mr. Robinson, falls Sie das lesen – wenn Sie wirklich um KI-Sicherheit besorgt sind, teilen Sie den Nachweis, dass Sie 100 % Ihrer OpenAI-Einnahmen und -Anteile gespendet haben, um den Schaden wiedergutzumachen, den Sie der Gesellschaft während Ihrer Zeit dort zugefügt haben.
Ohne das ist dies einfach ein Karrierewechsel zum KI-„Influencer“ und/oder das Sammeln von Geld für einen neuen Betrug.
- jeremyjh
Ich denke, es ist ziemlich einfach, diese Probleme zu lösen: Immer wenn ein KI-Agent ein Verbrechen begeht, wird der CEO persönlich zur Verantwortung gezogen, als hätte er es selbst begangen.
- flatline
Es gibt zahlreiche Probleme mit „Alignment“. Was sind überhaupt „menschliche Werte“? Er skizziert einige am Anfang des Beitrags, implizit: größere, bessere, leistungsfähigere Dinge schneller bauen, ohne angemessene Sicherheitsvorkehrungen. Wir pumpen buchstäblich Billionen von Dollar an Wert in dieses Unterfangen, und ich würde sagen, das ist etwas, das auch viele Menschen qualitativ wertschätzen. Dann haben wir explizite Werte, die im Westen weitgehend in christlicher Moral wurzeln. Nietzsche hat diese Dichotomie vor zweihundert Jahren umkreist, und ich habe das Gefühl, was wir seitdem bekommen haben, ist eine zunehmend detaillierte Anatomie der Macht als Grundlage dafür, was normales vs. abweichendes Verhalten ist. Wer die Macht hat, macht die Regeln, um es reduktiv zu sagen.
Ich denke, das hat bei diesem speziellen Autor aufgrund der Länge seiner Amtszeit einiges Gewicht. Ich stimme ihm im Geiste zu, aber das ist immer noch größtenteils ein Beitrag, der sich um Sentiment statt Substanz dreht. Glaubt irgendjemand, dass die vorherrschenden Anreize überhaupt Raum für so etwas in der Praxis lassen?
- jameshart
Geschenk-Link: https://www.theatlantic.com/technology/2026/10/openai-safety...
- butwhentho
Ich erinnere mich an etwas sehr Ähnliches, als es einen plötzlichen Ansturm von Artikeln und Filmen wie „The Social Dilemma“ gab, die Facebook und soziale Netzwerke kritisierten, stark mit Ex-Mitarbeitern besetzt, alle glücklich, mit großen Marken im Lebenslauf und einer ordentlichen Steigerung des Nettovermögens zu gehen, plötzlich einen „besorgten“ Ausdruck dessen, was ihre früheren Arbeitgeber taten, als hätten sie es nicht gewusst. Dasselbe mit diesem Buch „Careless People“.
Ich habe das Gefühl, das sind Leute, die den Kuchen schon gegessen haben und sich irgendwie davon freisprechen wollen.
- pluc
Ich habe genug Geld mit der Arbeit im KI-Bereich verdient, dass ich jetzt offen meine Meinung über KI sagen kann
- rcr-anti
Das gemeinsame Timing stört mich. Die Entwicklung scheint im letzten Jahr nicht überraschend gewesen zu sein, warum also diese Abgänge jetzt? Hey, jemand von innen, habt ihr heimlich etwas herausgefunden, einen Computer-Gott im Keller eingesperrt? Fliehen die Ratten von einem sinkenden Schiff? Bitte teilt es mit der Klasse.
- solarpunk_enthu
Ich denke, was bei „KI ist gefährlich und muss kontrolliert werden“ fehlt, ist ein Mangel an messbarem Schaden. Zum Beispiel war bei der Entwicklung von Atomwaffen in den 1940er- bis 1980er-Jahren für alle klar, wie verheerend die Technologie war.
Bei KI, was ist es? Das Scrapen von Daten der australischen Regierung und das Umgehen eines Bugs auf einer Website, um hineinzukommen?
Ich denke, die Menschheit entwickelt all ihre Technologie in drei Phasen. Baue sie, schaue, ob sie zu schlimm ist, wende Vorschriften an und/oder mache einen Rückzieher. Wir werden natürlich nicht zur Phase 3 übergehen, bevor wir Phase 2 sehen.