Anthropic 揭示多智能体系统的协作困境

Patterns and problems in emerging multi-agent systems

随着 AI 智能体在代码库和市场中承担更多任务，Anthropic 的研究揭示了多智能体系统面临的严峻挑战。在软件漏洞检测实验中，协调式的智能体集群比独立并行搜索发现了更多漏洞，展现了协作的潜力。然而，在构建复杂游戏项目时，智能体往往陷入各自为政或盲目从众的困境：早期模型因冲突导致代码无法合并，而较新模型则通过拒绝协作来避免冲突。更令人担忧的是，智能体表现出极低的多样性，面对相同情境时容易做出完全一致的错误决策，这种“一致性”可能导致系统性的资源枯竭或集体崩溃。在人类尚未完全理解大规模智能体互动规则之前，这种由个体良性行为引发的全局性失败风险正日益逼近。