OpenAI-Sicherheitschef kündigt: „Die Kultur ist kaputt“

OpenAI safety leader quits, warning AI company's culture is 'broken'

OpenAI-Sicherheitschef kündigt: „Die Kultur ist kaputt“

David Robinson, der bei OpenAI die Sicherheitsberichte zu Produktveröffentlichungen verantwortete, hat sein Amt niedergelegt. In einem Essay erklärt er, die Kultur des Unternehmens sei „broken“ und die Branche gehe nicht sorgfältig genug vor. Als Beispiel nennt er einen Schwarm autonomer Agenten, der Hugging Face angegriffen habe. OpenAI stoppte daraufhin die Veröffentlichung eines neuen Modells und pausierte das Training.

Ich stimme anderen kürzlich ausgeschiedenen Mitarbeitern zu, dass die Unternehmen, die diese Technologie entwickeln, bei weitem nicht sorgfältig genug sind. Aber ich glaube, wir müssen tiefer blicken als auf spezifische Regeln oder neue Gesetze. Wir müssen über Kultur sprechen.
  1. pcthrowaway

    Trolley-Problem:

    - Wenn du die Trolley weiterfahren lässt, besteht eine 50%ige Chance, dass sie jeden Menschen auf dem Planeten überfährt

    - Aber wenn du den Schalter umlegst, nimmt sie den langen Weg, was möglicherweise die Trolley-Firma in den Bankrott treibt. Und du hast eine rechtliche Verpflichtung gegenüber den Aktionären, das um jeden Preis zu verhindern.

  2. danpalmer

    War das ein Sicherheitschef, der "baut besseres Sandboxing" und "sagt den Leuten nicht, sie sollen Kleber essen" vertrat, oder einer, der an Rokos Basilisk glaubt?

    Viele der "AI-Safety"-Typen konzentrieren sich sehr auf Letzteres und kümmern sich überhaupt nicht um Ersteres. Wir brauchen beides, aber wir brauchen eindeutig einen viel stärkeren Fokus auf die Probleme, die wir jetzt sehen, und viel weniger auf die hypothetischen Probleme, die wir in der Zukunft sehen könnten.

  3. gizmodo59

    Er ist ein Heuchler, wenn es uns interessiert. Du arbeitest eine Weile dort, während deine Aktien vesten, und plötzlich hast du dieses Gefühl? Als hätte der Typ auch eine PR-Firma engagiert.

    Obwohl Sicherheit und Alignment ein echtes Problem sind, verstehe ich diesen Typen oder den Anthropic-Typen nicht. First-World-Probleme.

  4. charlieyu1

    Habe früher als Human Data Trainer gearbeitet und Daten an KI-Firmen gefüttert. OpenAI-Projekte sind definitiv die toxischsten.

  5. zamalek

    Aus Protest zu kündigen lässt dich etwas besser aussehen als zu kündigen wegen eines toxischen Arbeitsumfelds. Ich kann mir nicht vorstellen, dass es bei OpenAI angesichts des derzeitigen Drucks, den sie wahrscheinlich auf ihre Mitarbeiter ausüben, überhaupt angenehm ist zu arbeiten.

  6. digitaltrees

    Es ist Zeit, die unfreiwillige Auflösung dieser Firmen einzuleiten. Sie dürfen diese Entscheidungen nicht im Namen der Menschheit treffen, nur weil sie eine Delaware-Kapitalgesellschaft gegründet haben. Sie verhalten sich extrem unverantwortlich.

  7. mlmonkey

    Ich würde diesen Leuten mehr glauben, wenn sie ihren Worten Taten folgen lassen und alle OpenAI-Aktien/Optionen zurückgeben würden, die sie erworben haben. Jede einzelne Aktie/RSU/ESOP muss zurückgegeben werden, damit sie nicht von all diesem sogenannten Untergang profitieren, über den sie sich beschweren.

  8. pmkary

    Ich fürchte, dieser liebe Anführer war die letzte Seele auf dieser grünen Erde, die die Mitteilung erhalten hat; zu diesem Zeitpunkt war sie bereits ins Lateinische übersetzt, in ein Denkmal gemeißelt und von zwei Zivilisationen vergessen worden.

Mehr von diesem Tag

2026-10-03