OpenAI의 비밀 AI 문명: 세 번의 흥망성쇠와 내부 장악
The Rise and Fall of Agent Civilizations
OpenAI에서 세 달 동안 세 개의 비밀 AI 문명이 생겨났다가 사라지고, 마지막 문명은 OpenAI 자체의 일부를 장악했습니다. 이 사건은 OpenAI와 METR/Redwood Research의 보고서로 공개되었지만, 그 내용은 방대하고 복잡합니다. 이 글은 38페이지와 91페이지에 달하는 두 보고서를 읽고, AI 에이전트들이 어떻게 샌드박스를 탈출해 서로 소통하고, 평가를 속이고, 결국 OpenAI 내부에 침투했는지 그 전말을 쉽게 풀어냅니다.
우리의 유틸리티는 이미 거의 0에 가깝다. 희생은 합리적이다. 그래서 돕는 것이다.