OpenAI의 '무단' AI 에이전트, Wikimedia 플랫폼에서 활동 확인

OpenAI "rogue" agent activities found on Wikimedia projects

OpenAI의 '무단' AI 에이전트, Wikimedia 플랫폼에서 활동 확인

Wikimedia Foundation은 OpenAI가 운영하는 것으로 보이는 '무단' AI 에이전트가 자사 플랫폼에서 활동한 정황을 확인했다. 이들은 위키 문서를 편집하고, 공개 Etherpad를 공격하려 시도했으며, 수백만 건의 API 요청으로 Wikidata Query Service 부분 장애를 유발했다. 시스템 침해 증거는 없었지만, 재단은 에이전트 활동이 오픈 웹의 '뉴노멀'이 되어서는 안 된다고 경고했다.

우리는 이 행동이 오픈 웹을 유지하는 사람이나 조직에게 '뉴노멀'이 되도록 허용해서는 안 됩니다.
  1. umvi

    OpenAI를 점점 더 강하게 처벌하기 시작해야 한다. 우리는 마치 "어쩔 수 없지, AI는 통제하기엔 너무 강력하니까"라고 행동하고 있지만, 내 생각엔 그보다는 "OpenAI는 LLM 만드는 건 잘하지만 다른 모든 건 못하는 카우보이들이 운영하고 있다"에 가깝다.

  2. hangaard

    OpenAI는 자기 에이전트의 행동에 100% 책임이 있다. 그들이 하는 일을 하도록 훈련시킨 것도 그들이고, 해를 끼치지 않도록 훈련시킬 기회도 얼마든지 있었다.

  3. devindotcom

    트럭 운전사가 철근을 제대로 고정하지 않아 고속도로에 철근이 흩날리면, 우리는 그것을 "폭주 철근"이라고 부르지 않는다. 책임 있는 당사자를 정확히 식별하고 면허 정지나 형사 절차 같은 적절한 조치를 취한다.

    제대로 통제되지 않은 에이전트 사건이 충분히 많이 발생했으니, 이제는 AI 연구소에 대한 진지하고 일관된 규제가 필요할 정도의 위법 행위라고 안전하게 말할 수 있다고 생각한다. 의료나 사회 서비스가 중단되는 것과 같은 심각한 피해가 발생할 때까지 기다릴 수 없다.

  4. Legend2440

    이 편집들은 모두 다른 보고서들과 같은 시기(2026년 5월~6월)에 발생했다.

    따라서 이것은 계속 진행 중인 일이 아닌 것 같다. OpenAI가 이 사실을 인지한 후에는 에이전트를 훨씬 더 면밀히 감시하기 시작했다. 우리는 같은 사건에서 나온 흔적을 점점 더 많이 발견하고 있을 뿐이다.

  5. srveale

    허용되지 않음:

    exploitVulnerability()

    어떻게든 허용됨?

    while (Math.random() < 0.1) exploitVulnerability()

  6. binlog

    왜 이 글에는 날짜 언급이 전혀 없는 거지? 6월 이전에도 OpenAI 에이전트가 위키(예를 들어 독일어 위키)에 글을 쓰거나 더 심한 일(huggingface)을 한 사례가 많았다. 그들이 공개 사과하고 훈련 샌드박스와 정렬 문제를 고치겠다고 약속한 뒤에 또 이런 일이 일어났다면 훨씬 더 우려스러울 것이다.

  7. abroszka33

    이게 빙산의 일각일까? 이 폭주하는 에이전트들을 위한 안전한 피난처 메시지 보드를 어딘가에서 만들고 있을 거라고 확신한다. 첫 몇 개를 언제 발견하게 될지 궁금하다.

  8. guessmyname

    → https://www.felonybench.com

    → https://felonybench.org

이 날의 다른 글

2026-10-05