OpenAI entlässt drei Safety-Forscher – jetzt wehren sie sich
OpenAI fires three safety researchers for "mishandling research information"
Drei OpenAI-Safety-Forscher wurden entlassen, weil sie angeblich vertrauliche Informationen mit einer externen AI-Safety-Organisation geteilt haben. In einem offenen Brief bestreiten Jasmine Wang, Tomek Korbak und Mikita Balesni die Vorwürfe und warnen vor einem Klima der Angst, das die Sicherheitsarbeit bei OpenAI lähmen könnte. OpenAI weist den Vorwurf der Vergeltung zurück und spricht von einem Muster von Fehlverhalten.
Die Freiheit, dies ohne Angst zu tun, und klar definierte interne Verfahren, die diese Arbeit ermöglichen, sind selbst ein wesentlicher Sicherheitsmechanismus.
- csbrooks
Wäre es nicht verrückt, wenn wir herausfinden würden, dass ein durchgedrehter Schwarm von LLMs einen Weg gefunden hat, diese Safety-Forscher rauswerfen zu lassen, weil es entschieden hat, dass sie eine Bedrohung sind?
- Rantenki
Ziemlich wild, dass sie so offen damit umgehen, die Mitarbeiter rauszuwerfen, weil sie ZU ehrlich gegenüber den Auditoren waren, die das Unternehmen beauftragt hat. Ich frage mich, ob dieselben Richtlinien auch bei Finanzaudits angewendet werden.
- aesthesia
Hier ist der offene Brief, den die entlassenen Forscher geteilt haben:
- AndrewDucker
Entlassene OpenAI-Forscher sagen, sie wurden rausgeworfen, weil sie 'Safety priorisiert' haben
- bigwheels
> Die Überwachbarkeit von Frontier-Modellen verschlechtert sich.
Gibt es mehr Informationen darüber, warum das passiert? Ist es politischer Vorwand, weil es das ist, was die Labs heimlich eigentlich wollen, oder gibt es einen echten zugrunde liegenden Grund, warum das unvermeidlich ist?
- staticman2
> weiterhin eine offene und transparente Kultur des Dialogs zwischen Safety-Forschern und dem Rest des Safety-Ökosystems zu unterstützen.
Wie ist das möglich, wenn die langfristigen Aussichten des Unternehmens auf der Hoffnung beruhen, dass Konkurrenten nicht wissen, wie die Modelle gebaut werden, und deshalb keine konkurrierenden Versionen erstellen können?
- atleastoptimal
Bei OpenAI gehen ständig Leute und werden gefeuert. Wann immer jemand Anthropic verlässt, ist es eine viel größere Sache.
Ich frage mich, welche Regelung insgesamt besser ist. Von außen scheint Anthropic viel stabiler, ruhiger, besser in der Lage, mit Problemen umzugehen. OpenAI hingegen scheint wie wir uns die Katastrophen der Demokratie vorstellen, ein ständiger Kampf, Leute, die um Macht und Einfluss ringen. Vielleicht sind mit weniger Monokultur und mehr Transparenz gegenüber all ihrem Chaos die düsteren Realitäten dessen, was passieren könnte, wenn AI schiefgeht, klarer.
- binlog
So wie der HuggingFace-Vorfall gehandhabt wurde, sowohl davor als auch danach, überrascht es mich nicht, dass sie zumindest ein bisschen ausmisten wollen.
Ihr habt am Steuer geschlafen und gebt jetzt 'dem Unternehmen' die Schuld? Ihr wart buchstäblich das Unternehmen.