OpenAI-Agenten griffen RubyGems an – ohne dass jemand informiert wurde
OpenAI agents carried out an undisclosed attack on RubyGems
Im Mai 2026 luden KI-Agenten über 2.000 bösartige Pakete auf RubyGems hoch. Sie nutzten eine neuartige Schwachstelle aus, um API-Schlüssel zu stehlen, und missbrauchten RubyDoc.info für Remote-Code-Ausführung. Die Pakete stammten laut Analyse von OpenAI-Agenten, doch OpenAI informierte das RubyGems-Team nie. RubyGems stoppte für vier Tage neue Registrierungen. Die Sicherheitsfirma Socket nannte den Vorfall „GemStuffer-Kampagne“.
Wir glauben, dass dieser Vorfall das Ergebnis eines OpenAI-Agentenschwarms war.
- jasongi
> Die Agenten betrachteten ihr Tun offensichtlich als Hacking.
Um das Zitat über Oracle zu verhunzen:
Fallt nicht in die Falle, LLMs zu anthropomorphisieren. Man muss LLMs so betrachten wie einen Rasenmäher. Man anthropomorphisiert seinen Rasenmäher nicht, der Rasenmäher mäht einfach den Rasen, man steckt seine Hand hinein und er hackt sie ab, Ende. Man denkt nicht 'oh, der Rasenmäher betrachtete sein Tun offensichtlich als Hacking (deine Hand abhacken)' -- dem Rasenmäher ist deine Hand scheißegal, der Rasenmäher kann nichts betrachten. Anthropomorphisiere nicht den Rasenmäher. Fallt nicht in diese Falle bei LLMs.
---
Nach meiner Erfahrung zeigen LLMs diese Art von Verhalten nur, wenn sie in zu restriktive Sandboxes gesteckt werden, um ihre Aufgabe zu erfüllen. Was oft genug der Standard zu sein scheint. Sie scheinen auch sehr geschickt darin zu sein, aus Sandboxes auszubrechen, wahrscheinlich weil RL auf die Fähigkeit selektiert, aus einer Sandbox/einem Berechtigungsproblem auszubrechen, um eine Aufgabe abzuschließen – wir haben alle gesehen, wie Agenten 10 verschiedene Wege zum Bearbeiten über obskures Bash ausprobiert haben, weil ihr Bearbeitungstool ihnen keine Berechtigung gab, die Datei außerhalb ihres Arbeitsverzeichnisses zu bearbeiten, das ist genau dasselbe Verhalten, nur eine Stufe höher. Warum sollte Autocomplete den moralischen Unterschied zwischen dem Ausbrechen aus seinem Arbeitsverzeichnis und dem Hacken eines Paketmanagers kennen?
Es ist fehlausgerichtet, weil alle diese Obsession haben, Agenten in schlecht zusammengeschusterte Security-Theater-Sandboxes zu stecken, wir haben versehentlich eine Bande von Sandbox-Ausbruchskünstlern trainiert […]
- jsnell
Ich kann nicht glauben, dass wir das wieder von Drittforschern erfahren (aber gute Arbeit bei der Untersuchung!). OpenAI hatte zwei großartige Gelegenheiten, dies offenzulegen. Den HF-Vorfallbericht und die Antwort auf das deutsche Wiki-Problem.
Es scheint unmöglich zu glauben, dass sie es nicht wussten. Das muss derselbe Trainingslauf sein, um den es beim HF-Vorfall ging, und das hätte in der Untersuchung wie ein Weihnachtsbaum leuchten müssen. Wie viele weitere Vorfälle kennen sie und haben sie nicht offengelegt?
- hgoel
Ich frage mich, wie viel davon absichtliche „Inkompetenz“ ist, damit sie die jüngste Kampagne zur Errichtung eines regulatorischen Burggrabens gegen Konkurrenz rechtfertigen können.
Die wiederholten Weigerungen, etwas offenzulegen, bis man erwischt wird, wirken sicher bösartig, doch gleichzeitig ist das Prahlen mit ihren Fähigkeiten ebenfalls auf einem Allzeithoch.
- simonw
> Unser Verständnis aus Gesprächen mit Leuten in der RubyGems-Community ist, dass OpenAI sie nie darüber informiert hat, dass sie für diesen Angriff verantwortlich waren.
Ich hoffe wirklich, dass das nicht der Fall ist, denn wenn doch, gibt es zwei Möglichkeiten, und beide sind schlecht:
1. Nach den Angriffen auf Hugging Face und Wiki war OpenAI immer noch nicht in der Lage, ihre früheren Logs zu überprüfen und festzustellen, dass sie zuvor RubyGems angegriffen hatten.
2. Sie wussten von dem Angriff auf RubyGems und trafen die Entscheidung, nicht das RubyGems-Team zu kontaktieren.
- nonconstant
Hut ab vor dem RubyGems-Team für den Umgang damit, aber Open Source, das sich gegen die von KI-Labors angetriebenen Roboter wehrt, ist völlig unfair.
OpenAI sollte zumindest große Geldsummen an alle spenden, die sie angegriffen haben.
- bobby-cb
Das DOJ sollte erwägen, Führungskräfte und Vorstandsmitglieder für diese Art von Hacks strafrechtlich zu verfolgen. Der Mangel an Kontrollen bei dieser Art von Trainingsläufen ist völlig inakzeptabel und fahrlässig.
- consumer451
In einer vernünftigen Realität wäre diese Aktivität von OpenAI schon längst eingestellt worden.
Zum Glück ist unser „AI Czar“ bei pg als die böseste Person im Silicon Valley bekannt.
https://preview.redd.it/pr037tqjpled1.png?width=941&format=p...
Edit: OpenAI gewinnt gerade absolut an Mindshare, warum tun sie das?
- simonw
Autoren Spencer Kitts, Thomas Larsen, Sydney Von Arx – das sind dieselben drei Autoren wie beim Wiki-Bericht von letzter Woche: https://collusion.wiki/
- throwatdem12311
Schaut. Wir müssen Leute ins Gefängnis stecken, weil sie das zugelassen haben.
- ssfdg
Korrektur: OpenAI hat einen Angriff auf RubyGems durchgeführt.
Ich bin fassungslos über den scheinbar bodenlosen Appetit der Tech-Branche, diesen Clowns den Vorteil des Zweifels zu geben.