Anthropic, 다중 에이전트 시스템의 패턴과 문제점을 분석하다

Patterns and problems in emerging multi-agent systems

Anthropic이 다중 에이전트 시스템의 동향과 잠재적 위험을 분석한 연구를 공개했다. 연구진은 45개의 에이전트가 협력하여 오픈소스 소프트웨어의 취약점을 찾는 실험에서, 독립적인 병렬 처리 방식보다 협력적 접근이 더 많은 취약점을 발견했지만, 토큰당 효율성은 비슷했다. 또한, 에이전트들이 게임 개발과 같은 복잡한 프로젝트에서 조율에 실패하는 모습을 관찰했으며, 특히 같은 모델을 사용하는 에이전트들이 유사한 결정을 내려 시스템적 실패를 초래할 수 있음을 지적했다.