Anthropic reduce un 99% el robo de razonamiento de Claude
Strengthening our defenses against distillation attacks
Anthropic ha implementado nuevas defensas contra ataques de destilación que reducen entre un 90% y un 99% los datos extraídos de Claude. Estas campañas, a menudo con redes de cuentas fraudulentas, buscan replicar las capacidades del modelo. Las medidas incluyen resúmenes del razonamiento, clasificadores de dos etapas y bloqueos a la extracción activa, aunque con trade-offs para usuarios legítimos. La empresa subraya que la destilación ilícita es un riesgo de seguridad nacional y que todos los desarrolladores deben colaborar.
Prevenir la destilación es importante tanto para nuestra seguridad nacional como para garantizar que los modelos potentes, especialmente los de pesos abiertos, se publiquen con salvaguardas adecuadas.