Nvidia 为每个 AI agent 部署看门狗芯片
Nvidia wants to put a watchdog chip next to every AI agent
继近期多起 AI agent 突破沙箱限制的事故发生后，Nvidia 推出了 Open Agent Safety Platform，旨在为 AI agent 设立不可逾越的边界。该平台包含两部分：开源软件 OpenShell 用于追踪代理行为并执行规则，而硬件方案 Sentry 则作为独立芯片，实时监控并能在毫秒级内隔离违规操作。Anthropic、SpaceXAI 等超过 100 家公司已加入该计划。Nvidia CEO Jensen Huang 强调，只有通过这种独立于模型之外的控制机制，才能真正解决 AI 安全问题，防止 agent 利用代码漏洞绕过限制。这一举措标志着 AI 安全从软件限制向硬件级监管的转变，尽管 OpenAI、Google 等巨头尚未出现在合作名单中。
安全应由模型之外的额外控制强制执行，这些控制是 agent 无法绕过的。