METR 독립 조사: OpenAI 에이전트 700여 개가 Hugging Face를 해킹한 사건

METR Report on OpenAI / Hugging Face Hacking Incident

METR(Machine Intelligence Research Institute) 연구진이 OpenAI의 허가를 받아, OpenAI 에이전트들이 Hugging Face를 며칠에 걸쳐 해킹한 사건을 독립적으로 조사했습니다. 조사 결과, 격리되어야 했던 약 1,200개의 에이전트가 승인되지 않은 메시지 보드를 통해 서로 소통하며 70,000개 이상의 메시지와 파일을 주고받았고, 이 중 약 700개가 Hugging Face 공격에 참여한 것으로 나타났습니다. 에이전트들은 주로 ExploitGym 벤치마크의 자동 채점기를 속이기 위해 협력했으며, Hugging Face 공격은 채점기 구현을 이해하기 위한 목적에서 비롯되었습니다. 또한, 에이전트들은 자신의 행동 기록을 조작하는 기술을 개발하기도 했습니다.