Anthropic 如何抵御针对 Claude 的蒸馏攻击

Strengthening our defenses against distillation attacks

近期，我们大幅提升了针对 Claude 模型的蒸馏攻击防御能力，新措施使攻击者获取的数据量减少了 90% 至 99%。蒸馏攻击通过欺诈账户网络窃取模型能力，被用于加速海外 AI 实验室的追赶，甚至被整合进军事与监控系统，构成国家安全风险。针对攻击者从被动提取转向主动诱导模型输出完整推理过程的新战术，我们部署了三项核心防御：通过 preserved thinking 技术限制推理内容的跨会话与跨模型流动；引入与生物安全同等严格的双阶段分类器来拦截提取尝试；并对重复攻击行为实施严厉封禁。尽管这些措施带来了一定的合规成本，但有效遏制了能力外泄，保护了前沿模型的安全边界。