Anthropic stoppt 99 % der Distillationsangriffe auf Claude
Strengthening our defenses against distillation attacks
Anthropic hat neue Abwehrmaßnahmen gegen illegale Distillation vorgestellt, bei der Angreifer die Denkprozesse von Claude extrahieren, um eigene Modelle zu trainieren. Durch die Zusammenfassung von Reasoning, Zugriffskontrollen und einen zweistufigen Klassifikator mit einer Falsch-Positiv-Rate unter 0,1 % konnten die extrahierten Reasoning-Tokens um den Faktor 10 bis 100 gesenkt werden. Zhipu nutzte diese Technik für GLM-5.3, das laut CAISSI als das fähigste Open-Weights-Modell im Cyberbereich gilt.
Diese Angriffe ermöglichen es Unternehmen, Frontier-Fähigkeiten für einen Bruchteil der Entwicklungszeit und -kosten nachzuahmen.