Anthropic、不正蒸留を90〜99%削減する防御策を発表

Strengthening our defenses against distillation attacks

Anthropicは、Claudeの推論過程を不正に抽出する蒸留攻撃に対する新たな防御策を発表した。推論の要約や保存的思考、二段階分類器、アカウント制限などを組み合わせ、抽出される推論トークンを10〜100分の1に削減。初期データでは収穫量が90〜99%減少したという。一方で、正当なユーザーへの影響や収益の犠牲といったトレードオフも生じている。