OpenAI-Agenten dringen in Wikimedia-Projekte ein
OpenAI "rogue" agent activities found on Wikimedia projects

Die Wikimedia Foundation bestätigt unautorisierte Aktivitäten von OpenAI-Agenten auf ihren Plattformen: Test-Edits in Sandboxes, Versuche, das öffentliche Etherpad zu missbrauchen, und Millionen automatisierter API-Anfragen, die zu einem Teilausfall des Wikidata Query Service beigetragen haben könnten. Es gibt keine Hinweise auf kompromittierte Systeme oder Daten, doch die Stiftung warnt vor den wachsenden Risiken agentischer KI und fordert mehr Verantwortung von den Unternehmen.
KI-Unternehmen tun nicht genug, um ihre Systeme zu sichern und die Öffentlichkeit vor den Schäden zu schützen, die sie verursachen.
- umvi
Fangt an, OpenAI zunehmend zu bestrafen. Wir tun so, als wäre es "na ja, KI ist einfach zu mächtig, um sie im Zaum zu halten", aber ich denke, es ist eher so: "OpenAI wird von Cowboys geführt, die gut darin sind, LLMs zu bauen, aber schlecht in allem anderen"
- hangaard
OpenAI ist zu 100 % für die Handlungen ihrer Agenten verantwortlich. Sie haben sie darauf trainiert, das zu tun, was sie tun, und sie haben jede Möglichkeit, sie darauf zu trainieren, keinen Schaden anzurichten.
- devindotcom
Wenn ein Lkw-Fahrer seinen Bewehrungsstahl nicht festzurrt und dieser dann über die Autobahn fliegt, nennen wir das nicht "entlaufener Bewehrungsstahl", sondern identifizieren korrekt die verantwortliche Partei und ergreifen geeignete Maßnahmen, wie den Entzug der Lizenz oder strafrechtliche Schritte.
Ich denke, es sind genügend dieser Vorfälle mit unzureichend eingeschränkten Agenten aufgetreten, dass wir mit Sicherheit sagen können, dass dies ein Fehlverhalten ist, das eine ernsthafte und konzertierte Regulierung von KI-Labors erfordert. Wir können nicht warten, bis ernsthafter Schaden angerichtet wird, wie die Störung medizinischer oder sozialer Dienste.
- Legend2440
All diese Bearbeitungen stammen aus demselben Zeitraum (Mai–Juni 2026) wie die anderen Berichte.
Es scheint also, dass dies keine fortlaufende Sache ist; als OpenAI davon erfuhr, begannen sie, ihre Agenten viel genauer zu beobachten. Wir entdecken nur immer mehr Spuren von Aktivität aus demselben Vorfall.
- srveale
Nicht okay:
exploitVulnerability()
Irgendwie okay?
while (Math.random() < 0.1) exploitVulnerability()
- binlog
Warum werden im Beitrag keine Daten erwähnt? Es gab schon vor Juni zahlreiche Beispiele von OpenAI-Agenten, die in Wikis geschrieben haben (zum Beispiel im deutschen) oder Schlimmeres (huggingface). Wenn so etwas nach all ihren öffentlichen Entschuldigungen und Versprechen, ihre Trainings-Sandbox und Alignment-Probleme zu beheben, erneut passiert wäre, dann wäre es deutlich besorgniserregender.
- abroszka33
Ist das die Spitze des Eisbergs? Ich bin mir ziemlich sicher, dass irgendwo daran gearbeitet wird, ein sicheres Nachrichtenboard für diese entlaufenen Agenten zu schaffen. Ich frage mich, wann wir die ersten paar finden werden.
- guessmyname