别因模型变强就盲目信任 Agent

How much can you delegate to agents?

人们越来越倾向于让 Agent 在没有监督的情况下承担更多工作，但信任的边界在哪里？文章指出，盲目信任模型变强就像因为换了新车就不系安全带一样危险。真正的关键在于任务本身的性质，而非模型的能力。作者提出了基于“是否易于检查”和“是否易于撤销”两个维度的四级自主性框架，从 Level 0 的助手模式到 Level 3 的自动驾驶模式。通过拆解任务、利用 LLM-as-judge、编写自定义技能以及构建专家级上下文库，我们可以在确保安全的前提下，最大化 Agent 的自主性，实现快速交付而不破坏系统。