Anthropic 'marca' el texto de Claude con adulteraciones semánticas: una perversión de la escritura
Anthropic's 'Watermark' Text Adulteration in Claude Is a Perversion of Writing
Anthropic anuncia que todos sus modelos Claude incorporarán una marca de agua semántica en todo texto generado de más de 200 tokens, para cumplir una regulación de la UE. El autor critica duramente esta decisión: altera la elección de palabras en favor de listas 'verdes' y 'rojas' determinadas por una clave secreta, degradando la precisión y claridad del texto, incluso en conversaciones privadas. Argumenta que la técnica es fácil de eludir con herramientas de paráfrasis y que la regulación es un sinsentido burocrático. El artículo explica el funcionamiento técnico y las objeciones éticas y prácticas.
Anthropic está diciendo que todos los nuevos modelos Claude van a adulterar cada texto de más de 200 tokens que generen, incluyendo todo lo que presentan a sus usuarios para leer, haciendo elecciones de palabras en nombre de marcar su salida de maneras estadísticamente predecibles en lugar de maximizar claridad y precisión.