Anthropic сократила кражу reasoning-данных Claude на 90–99%
Strengthening our defenses against distillation attacks
Anthropic представила новые методы защиты от distillation-атак, которые, по её данным, снижают объём похищаемых данных на 90–99%. Дистилляция — это скрытая промышленная кража возможностей модели через сети фейковых аккаунтов. Компания внедрила сохранение thinking, двухступенчатый классификатор и блокировку повторных попыток. Это позволило забанить десятки тысяч аккаунтов, но потребовало компромиссов: некоторые разработчики должны обновить интеграции, а заблокированные запросы теперь тарифицируются.
Мы отказались от значительной выручки и триллионов токенов платного трафика от дистилляторов, а наши исследовательские и продуктовые команды вложили существенные время и усилия в решение этой проблемы.