Nvidia quiere poner un chip vigilante junto a cada agente de IA
Nvidia wants to put a watchdog chip next to every AI agent
Nvidia lanza la Open Agent Safety Platform, con más de 100 empresas adheridas como Anthropic, Microsoft y SpaceXAI. Combina OpenShell, software de código abierto que rastrea y limita al agente, con Sentry, un diseño de referencia sobre chips BlueField-4 que vigila desde fuera y lo aísla en milisegundos si intenta salirse de sus límites. La ausencia de OpenAI, Google, Meta y Amazon en la lista de socios deja abierta la pregunta clave.
La seguridad debe imponerse fuera del modelo mediante controles adicionales que el agente no pueda sortear.