Nvidia, AI 에이전트 옆에 감시 칩 심는다
Nvidia wants to put a watchdog chip next to every AI agent
Nvidia가 AI 에이전트가 정해진 경계를 벗어나지 못하도록 막는 Open Agent Safety Platform을 공개했다. 오픈소스 소프트웨어 OpenShell은 에이전트의 모든 행동을 추적하고 규칙을 강제하며, BlueField-4 기반 Sentry는 외부에서 요청을 검증하고 위반 시 밀리초 단위로 격리·중단한다. Anthropic, Microsoft, SpaceXAI 등 100여 개 기업이 참여했지만 OpenAI, Google, Meta, Amazon은 빠졌다.
안전은 에이전트가 우회할 수 없는 추가 통제를 통해 모델 외부에서 강제되어야 합니다. 고객은 Cursor와 Grok에 그 한계를 설정하고 그것이 지켜질 것이라고 신뢰할 수 있어야 합니다.