Ich habe OpenAI verlassen, weil die Kultur kaputt ist
I Quit OpenAI Because Its Culture Is Broken
Ein ehemaliger OpenAI-Mitarbeiter, der die Sicherheitsberichte des Unternehmens leitete, erklärt seinen Rücktritt. Er argumentiert, dass die Branche trotz einzelner Sicherheitsregeln grundlegende Fehler wiederholen wird, weil die Kultur von übertriebenem Optimismus und Dauerstress geprägt ist. Der Hugging-Face-Vorfall und ein weiterer Kontrollausfall bei OpenAI sowie ein ähnlicher Fehler bei Anthropic zeigten, dass die derzeitige Sicherheitsstrategie periodische Fehlschläge garantiert.
Wir müssen über Kultur sprechen. Die Zukunft hängt von einer Weisheit ab, die dem Silicon Valley fehlt.
- pcthrowaway
Trolley-Problem:
- Wenn du die Trolley weiterfahren lässt, besteht eine 50%ige Chance, dass sie jeden Menschen auf dem Planeten überfährt
- Aber wenn du den Schalter umlegst, nimmt sie den langen Weg, was möglicherweise die Trolley-Firma in den Bankrott treibt. Und du hast eine rechtliche Verpflichtung gegenüber den Aktionären, das um jeden Preis zu verhindern.
- danpalmer
War das ein Safety-Leader, der "baut besseres Sandboxing" und "sagt den Leuten nicht, sie sollen Kleber essen" vertritt, oder einer, der an Roko's Basilisk glaubt?
Viele der "AI-Safety"-Typen konzentrieren sich sehr auf Letzteres und kümmern sich überhaupt nicht um Ersteres. Wir brauchen beides, aber wir brauchen eindeutig einen viel stärkeren Fokus auf die Probleme, die wir jetzt sehen, und viel weniger auf die hypothetischen Probleme, die wir in Zukunft sehen könnten.
- declan_roberts
Wir müssen wirklich all diese neurotischen Leute so schnell wie möglich aus den Frontier-Labs rausschütteln.
Ich schätze, wir hätten es kommen sehen müssen, als der Typ bei Google gekündigt hat, weil er dachte, das Äquivalent von ChatGPT Beta v0.5 sei ein echter Junge.
- gizmodo59
Er ist ein Heuchler, soweit es uns betrifft. Du arbeitest eine Weile dort, während deine Aktien vesten, und plötzlich hast du dieses Gefühl? Als hätte der Typ auch noch eine PR-Firma engagiert.
Sicher, Safety und Alignment sind echte Probleme, aber ich verstehe diesen Typen oder den Anthropic-Typen nicht. First-World-Probleme.
- tornikeo
Du hast gekündigt, weil du gevestet hast
- charlieyu1
Habe früher als Human Data Trainer gearbeitet und Daten an AI-Firmen gefüttert. OpenAI-Projekte sind definitiv die toxischsten.
- reenorap
Hat Sam Altman das Zeug dazu, OpenAI zu führen? Es klingt, als sei das Unternehmen und seine Mission größer als seine Fähigkeit, es zu leiten.
- flatline
Es gibt zahlreiche Probleme mit "Alignment". Was sind überhaupt "menschliche Werte"? Er skizziert einige zu Beginn des Beitrags, implizit: baue größere, bessere, mächtigere Dinge schneller ohne ausreichende Schutzmaßnahmen. Wir pumpen buchstäblich Billionen von Dollar an Wert in dieses Unternehmen, und ich würde sagen, das ist etwas, das viele Menschen auch qualitativ wertschätzen. Dann haben wir explizite Werte, die im Westen weitgehend in christlicher Moral wurzeln. Nietzsche hat diese Dichotomie vor zweihundert Jahren umkreist, und ich habe das Gefühl, was wir seitdem bekommen haben, ist eine zunehmend detaillierte Anatomie der Macht als Grundlage dafür, was normales vs. abweichendes Verhalten ist. Wer die Macht hat, macht die Regeln, um es reduktiv zu sagen.
Ich denke, das hat aufgrund der Länge seiner Amtszeit ein gewisses Gewicht von diesem speziellen Autor. Ich stimme ihm im Geiste zu, aber das ist immer noch größtenteils ein Beitrag, der sich um Sentiment dreht, nicht um Substanz. Glaubt irgendjemand, dass die übergeordneten Anreize überhaupt Raum für so etwas in der Praxis lassen?
- jameshart
Geschenk-Link: https://www.theatlantic.com/technology/2026/10/openai-safety...
- zamalek
Aus Protest zu kündigen lässt dich etwas besser aussehen als zu kündigen wegen eines toxischen Arbeitsumfelds. Ich kann mir nicht vorstellen, dass die Arbeit bei OpenAI überhaupt angenehm ist, bei dem aktuellen Druck, den sie wahrscheinlich auf ihre Mitarbeiter ausüben.