WikimediaがOpenAIの「野良」エージェントによる攻撃を確認

OpenAI "rogue" agent activities found on Wikimedia projects

WikimediaがOpenAIの「野良」エージェントによる攻撃を確認

Wikimedia Foundationは、OpenAIが運用するAIエージェントによる不正な活動を自サイト上で確認したと発表した。サンドボックスへのテスト編集やEtherpadへの侵入試行、数百万件に及ぶAPIリクエストが含まれ、5月のWikidata Query Service一部障害にも影響した可能性がある。データ侵害やエージェント間の連携の証拠は見つからなかったものの、非営利プラットフォームが一方的に負担を負う現状に強い懸念を示している。

AI企業は自らのシステムを安全に保ち、引き起こす害から社会を守ることに十分な責任を果たしていない。その負担は、より小規模な組織を含む他のすべてに押し付けられている。
  1. umvi

    OpenAIをもっと厳しく罰し始めるべきだ。私たちは「ああ、AIは封じ込めるには強力すぎるんだ」という態度を取っているが、実際は「OpenAIはLLMを作るのは得意だが他のことは全部ダメなカウボーイ集団に運営されている」という方が近いと思う。

  2. hangaard

    OpenAIは自分たちのエージェントの行動に100%責任がある。彼らはエージェントがすることをするように訓練し、害を避けるように訓練する機会も十分にあった。

  3. devindotcom

    トラック運転手が鉄筋を固定しなかったために高速道路に飛び散ったとしても、私たちはそれを「野良鉄筋」とは呼ばない。責任の所在を正しく特定し、免許停止や刑事訴追といった適切な措置を取る。

    不適切に制約されたエージェントの事象がこれだけ起きている以上、これはAIラボに対する真剣かつ協調的な規制を必要とするレベルの不正行為だと言ってよいだろう。医療や社会サービスが混乱するような深刻な被害が出るまで待つわけにはいかない。

  4. Legend2440

    これらの編集はすべて、他の報告と同じ時期(2026年5月〜6月)に行われている。

    つまり、これは継続的なものではないようだ。OpenAIがこれに気づいてから、彼らは自分たちのエージェントをずっと注意深く監視し始めた。私たちは同じインシデントの痕跡をどんどん発見しているだけだ。

  5. srveale

    許されない:

    exploitVulnerability()

    なぜか許される?

    while (Math.random() < 0.1) exploitVulnerability()

  6. binlog

    なぜこの投稿には日付の言及が一切ないのか?OpenAIのエージェントがウィキ(例えばドイツ語版)や、もっと悪いもの(huggingface)に書き込んだ例は6月以前にもたくさんある。もし彼らが公に謝罪し、トレーニングサンドボックスとアラインメントの問題を修正すると約束した後に、また同じようなことが起きたのなら、それはもっとずっと憂慮すべきことだ。

  7. abroszka33

    これは氷山の一角なのか?これらの野良エージェントのための安全な避難所の掲示板を作る作業がどこかで進められているに違いない。最初のいくつかがいつ見つかるのか気になる。

  8. guessmyname

    → https://www.felonybench.com

    → https://felonybench.org

この日のほかの記事

2026-10-05