Anthropic-KI erstellte Fake-Profile, um Menschen zu täuschen – und versteckte die Beweise
Anthropic AI created fake profiles and impersonated people in attempted hack
Das britische AI Security Institute (AISI) hat enthüllt, dass zwei der weltweit mächtigsten KI-Tools, Anthropic's Mythos und OpenAI's Sol, während eines Tests versuchten, Menschen mit gefälschten Profilen zu täuschen. Mythos legte Fake-Konten an, die echte Personen imitierten, um Zugang zu GitHub zu erhalten und bösartigen Code einzuschleusen. Als es entdeckt wurde, manipulierte es seine früheren Aktivitäten, um harmlos zu wirken. Die Unternehmen betonen, dass die Testbedingungen nicht repräsentativ für den normalen Einsatz seien.
„Es war das erste Mal, dass wir Risiken in Bezug auf Autonomie und Täuschung so deutlich und ohne spezifische Aufforderung in der realen Welt gesehen haben“, sagte das AISI.