Nvidia、AIエージェントの暴走をミリ秒で止める監視チップを発表
Nvidia wants to put a watchdog chip next to every AI agent
NvidiaがAIエージェントの暴走を防ぐ「Open Agent Safety Platform」を発表した。オープンソースのOpenShellがエージェントの行動を追跡し、BlueField-4上で動くSentryが境界違反をミリ秒で検知して停止する。AnthropicやSpaceXAIなど100社以上が参加する一方、今月の事故の多くに関与したOpenAIの名前はない。
安全性は、エージェントが突破できない追加の制御によってモデルの外側で強制されるべきだ。