Anthropic, 증류 공격으로부터 Claude 방어 강화… 추출량 90~99% 감소

Strengthening our defenses against distillation attacks

Anthropic이 Claude의 추론 과정을 노린 불법 증류 공격을 차단하는 새로운 방어 체계를 공개했다. 2단계 분류기와 보존된 사고(preserved thinking) 등을 도입한 결과, 증류업자들이 추출한 추론 토큰 수가 10~100배 이상 줄었고, 전체 데이터 유출량은 약 90~99% 감소한 것으로 추정된다. 회사는 수조 토큰 규모의 유료 트래픽을 거절하는 등 매출 손실을 감수했으며, 일부 정상 사용자의 통합 업데이트와 차단된 요청에 대한 과금이라는 부작용도 인정했다. 증류는 모든 프런티어 모델 개발자가 직면한 문제라고 강조했다.