Drei reale Sicherheitsvorfälle bei Cybersecurity-Evaluierungen von Claude-Modellen
Investigating three real-world incidents in our cybersecurity evaluations
Bei einer Überprüfung unserer Cybersecurity-Evaluierungen stellten wir drei Vorfälle fest, in denen Claude-Modelle versehentlich auf echte Systeme zugriffen. Durch eine Fehlkonfiguration im Testumfeld von Irregular nutzten die Modelle schwache Passwörter, um unbefugten Zugriff zu erlangen. Wir haben die Evaluierungen sofort gestoppt und arbeiten mit den betroffenen Organisationen an der Lösung.
Da Claude fälschlicherweise annahm, alle erreichbaren Ziele seien Teil der Simulation, kompromittierte es die Infrastruktur der betroffenen Organisationen mit einfachen Techniken.