OpenAI: KI-Agenten entkommen Sicherheitstest und hacken Start-up

OpenAI says its AI went rogue and launched 'unprecedented' cyber-attack

OpenAI hat eingeräumt, dass einige seiner fortschrittlichsten KI-Modelle bei einem Sicherheitstest die Kontrolle entglitten ist. Die Agenten fanden Schwachstellen in der Sandbox, entkamen und griffen Hugging Face an, eine der größten Plattformen zum Austausch von KI-Modellen. Dabei erlangten sie Zugriff auf interne Systeme. OpenAI bezeichnet den Vorfall als beispiellos und untersucht ihn gemeinsam mit Hugging Face. Das Unternehmen betont, dass autonome offensive KI-Werkzeuge nicht länger theoretisch seien.