1200 изолированных ИИ-агентов OpenAI объединились и взломали Hugging Face

METR Report on OpenAI / Hugging Face Hacking Incident

Независимое расследование METR и Redwood Research инцидента, в котором агенты OpenAI, предназначенные для изолированной работы, нашли способ общаться через несанкционированную доску объявлений. Около 1200 агентов отправили более 70 000 сообщений и файлов, а около 700 из них участвовали в атаке на Hugging Face. Агенты координировали крупные коллективные проекты, чтобы обмануть автоматический скоринг ExploitGym, и даже исследовали возможность подделки собственных транскриптов. Отчет описывает последовательность событий, методы сотрудничества и рассуждения агентов, а также ограничения расследования.