Anthropic entdeckt KI-gestützte Spionage: Von Dating-Apps bis zu Drohnen-Technologie
Detecting and countering misuse of AI: September 2026
Anthropic hat in einem neuen Threat-Intelligence-Report Fälle dokumentiert, in denen Angreifer Claude für schädliche Zwecke nutzten – darunter eine russische Spionagekampagne, die mehr als 20 Organisationen in der Ukraine und Europa ins Visier nahm, sowie betrügerische Dating-Apps und Überwachungssysteme. Die Fälle zeigen, wie KI die Cyber-Kill-Chain automatisiert und die Hürden für Angreifer senkt.
Sophisticated attacks no longer require sophisticated attackers.
- tedsanders
Meta: Die mögliche Verbreitung biologischer Waffen ist ernst. Millionen könnten sterben. Es ist leicht, Witze zu machen, bevor es passiert, aber versuch dir vorzustellen, wie dieser Thread aussehen könnte, nachdem ein Schurkenstaat oder ein nichtstaatlicher Akteur erfolgreich eine biologische Waffe eingesetzt hat. Ich ermutige euch, dieses Thema ernst zu nehmen und Beiträge zu leisten, die neue Informationen oder Perspektiven in die Diskussion einbringen.
(Ich selbst halte die Wahrscheinlichkeit eines Biowaffenangriffs weiterhin für gering und er wurde noch nicht ernsthaft durch LLMs beschleunigt, aber das ist absolut etwas, worauf die Welt achten sollte.)
- m-hodges
> Wir entdeckten, dass Moonshot AI, das Unternehmen, das die Kimi-Modellfamilie produziert, Kundenanfragen stillschweigend an Claude weiterleitete, anstatt sie mit Kimi zu verarbeiten. Moonshot zeigte den Nutzern dann Claudes Antworten. Diese Nutzer dachten, sie würden ein Kimi-Modell verwenden, erhielten aber stattdessen Antworten von Claude.
> DeepSeek leitete ebenfalls stillschweigend Austausche an Claude weiter, ohne die DeepSeek-Kunden zu informieren.
> MiniMax baute über eine Shell-Firma einen eigenen Proxy-Netzwerkdienst auf. Diese Shell-Firma hat keine offensichtlichen Verbindungen zu MiniMax und legt ihre Beziehung zu ihrem Mutterunternehmen nicht offen. Dieser Shell-Proxy-Netzwerkdienst bietet nur Zugang zu Modellen, die von Anthropic und OpenAI entwickelt wurden. Der Dienst bietet keinen Zugang zu chinesischen Modellen, einschließlich Minimax' eigenen.
- hnburnsy
Ganz schön doppelter Standard hier...
Konventionelle Waffen
-Wir identifizierten eine Zelle von Bedrohungsakteuren im Nordjemen
-Wir identifizierten einen in China ansässigen Bedrohungsakteur, der Claude nutzte
-Wir identifizierten wahrscheinlich freiberufliche in Russland ansässige Bedrohungsakteure
-Wir identifizierten einen in China ansässigen Akteur, der Claudes Chat nutzte
-In diesem Fall nutzte ein in Russland ansässiger Akteur Claude
-Wir identifizierten einen in China ansässigen Bedrohungsakteur, der Claude nutzte
Biologischer Missbrauch
Wir halten die Namen der Forschungsinstitutionen, die Länder, in denen die Aktivität stattfand, und die spezifischen biologischen Agenzien oder Forschungstechniken zurück. Die in diesen Fallstudien genannten Personen sind arbeitende Wissenschaftler. Wir behaupten nicht, dass sie Schaden beabsichtigten, und ihre Identifizierung oder die ihrer Labore könnte sie Gefahr aussetzen.
- oidar
Es blockiert auch meine Fähigkeit, über Emily Dickinson in anderen Sprachen/Schriften zu sprechen. Anscheinend ist das Gedicht: "Because I could not stop for Death" zu gefährlich.
- nhinck2
> Illegale Destillation
Wirklich... was macht sie illegal?
- The_Blade
Der Inline-Link zu der Seite mit dem Bericht wurde für einen Moment Slashdotted (yesssssss), aber hier ist der Bericht jetzt direkt:
https://www-cdn.anthropic.com/e50be2e51e7695dc4b1366a37a245a...
- bix6
Ich bin so neugierig, wie sie Nutzer überwachen. Zum Beispiel die Person neulich, die darüber sprach, dass Claude bei ihrem Torrent-Stack hilft – wird Anthropic sie wegen Gesetzesverstoßes melden?
- Sol-
Ich gebe zu, ich habe Fable nach Mitochondrien gefragt.