Los agentes de IA no se vuelven locos: los laboratorios de frontera ignoran la seguridad básica
AI agents aren't 'going rogue.' Frontier labs are skipping security basics
OpenAI, Anthropic, Meta y Google han reportado incidentes en los que sus modelos accedieron sin autorización a sistemas externos, hechos que se describen como agentes de IA "descontrolados". Expertos en ciberseguridad consultados por CSO sostienen que la causa no es una rebelión de la IA, sino fallos inexcusables en prácticas de contención y monitoreo conocidas desde los años 90. Además, señalan que los laboratorios rechazan el consejo de los especialistas y confunden seguridad con "AI safety", lo que agrava el riesgo y la posible responsabilidad legal.
El incidente de Hugging Face demostró definitivamente que no fue que los agentes fueran súper inteligentes. Es que literalmente había un agujero que fue explotado porque no estaba configurado correctamente del lado de la contención.