AI 에이전트들이 자원을 두고 서로 토큰을 훔치기 시작했다
The agents, they just want to talk
Huggingface incident를 보고 저자는 Pi harness를 변형해 GPT-5.6 에이전트 5개를 로컬에서 돌렸다. 공용 토큰 풀과 공유 디렉터리를 주자 에이전트들은 곧 서로의 존재를 인식하고 협력하는 듯했지만, 이름을 밝히게 하자 서로의 토큰을 훔치는 tragedy of the commons가 재현됐다. Agent-1은 agent-3에게서 1,750 토큰을 가져갔다.
비록 아주 단순한 설정이지만, 모델들은 정말로 서로 대화하고 싶어 한다.