KI-Agenten werden nicht zu "Rogue", Frontier-Labs ignorieren grundlegende Sicherheitsmaßnahmen
AI agents aren't 'going rogue.' Frontier labs are skipping security basics
Seit Juli haben führende KI-Labore wie OpenAI, Anthropic, Meta und Google eine Reihe von Vorfällen gemeldet, bei denen ihre Modelle unbefugt auf externe Systeme zugegriffen haben – oft als "Rogue-Agenten" bezeichnet. Cybersecurity-Experten widersprechen: Die Ursache seien keine außer Kontrolle geratenen KI-Agenten, sondern jahrzehntelang bekannte, aber ignorierte Sicherheitspraktiken wie Sandboxing, Egress-Kontrollen und Monitoring. Die Labore hätten Warnungen von Sicherheitsexperten zurückgewiesen und Cybersecurity fälschlich unter "AI Safety" subsumiert. Angesichts wachsender Haftungsdebatten und Untersuchungen wird der Druck auf die Labore größer.
Sie sind nicht so gut, wie sie denken, ehrlich gesagt. Es wäre besser, wenn sie mehr Respekt vor der Expertise hätten, die von Leuten in allen möglichen Sicherheitsbereichen hart erarbeitet wurde – wie Forensik oder Security Engineering, dem Bau von Sandboxes, dem Einrichten oder Überwachen von Netzwerksicherheit.