OpenAI 如何对抗 AI 模型的对抗性蒸馏

Combatting Adversarial Distillation

随着前沿 AI 模型能力增强,对抗性蒸馏成为安全隐患:恶意行为者可能利用模型输出训练新模型,绕过原有安全限制。OpenAI 分享了其检测与阻断此类行为的策略,包括强化对 protected reasoning(受保护推理)的防护,防止攻击者提取模型内部推理步骤。在 GPT‑6.2 Astra 和 GPT‑6.2 Sol 中,攻击成功率从 54% 降至 0.2%。文章还探讨了蒸馏在网络安全和生物领域的双重用途风险,并呼吁行业协作,建立统一安全标准,共同防范前沿 AI 能力被非法复制。

攻击者可能利用前沿模型的输出来训练另一个具有类似能力但缺乏相应安全保护的模型,从而绕过原本会阻止的恶意行为。

同日更多故事

2026-11-20