Claude 5.1 se niega a reproducir letras de canciones tras la demanda de Sony y Warner
Claude's new system prompt doesn't want to reproduce song lyrics
Anthropic publicó los system prompts actualizados de sus aplicaciones de consumo, incluido el nuevo Claude Fable 5.1, que añade una estricta prohibición de reproducir letras de canciones, poemas o pasajes de libros, incluso si el usuario los introduce línea a línea. Esta medida llega días después de que Sony Music Publishing y Warner Chappell demandaran a Anthropic por entrenar a Claude con bases de datos de letras. El nuevo prompt también prohíbe dibujar personajes o logotipos con derechos de autor, incluso mediante código, y ajusta el estilo de respuesta para evitar palabras como 'genuinamente' u 'honestamente'. Simon Willison analiza los cambios y mantiene un repositorio en GitHub con el historial de prompts para facilitar su comparación.
Claude no reproduce letras de canciones, poemas o pasajes de libros y artículos, en su totalidad o en parte, incluidas las últimas líneas, un estribillo o un gancho, una melodía escrita nota por nota, o líneas que la persona pega una a una y describe como su propia canción.
- SyneRyder
Me entristecen las restricciones sobre las letras. Solía tener conversaciones interesantes con Claude sobre música, composición y letras. No veo cómo mi uso perjudicaba a los artistas; si acaso, Claude me estaba presentando a nuevos artistas y nueva música. He comprado música después de recomendaciones de Claude.
Claude Sonnet 3.6 una vez me recomendó escuchar el álbum 'IBM 1401 - A User's Manual' de Johann Johannsson. No tiene letras. El consejo de Claude fue más o menos (parafraseando): 'Escúchalo primero, no busques nada sobre él. Toma notas sobre lo que notes, lo que sientas. Cuando hayas tomado tus notas, entonces puedes buscar cómo se hizo'.
- simonw
Lo que más me gusta de este proyecto es el registro de cambios automático que ahora recibo para todos los cambios en el prompt del sistema de Claude.ai: https://github.com/simonw/claude-system-prompts/blob/main/CH...
Los resúmenes los genera GPT-5.6 Luna porque no confío en que Claude resuma sus propios prompts del sistema sin verse influenciado por ellos (aunque para ser justos, los prompts del sistema que resume son para la aplicación de consumo de Claude, no para Claude vía API).
Incluso hay un feed Atom: https://simonw.github.io/claude-system-prompts/feed.atom
- IChooseY0u
Esto es algo que a los modelos chinos como Kimi/GLM nunca les importará. Este tipo de limitaciones, junto con la tontería del ciber-programa, es exactamente por lo que la gente evitará OpenAI/Anthropic en el futuro.
- AnonC
Hace unos días vi a algunas personas criticando la explicación de Dwarkesh sobre el hackeo de HuggingFace por parte de los agentes de IA de OpenAI. Su punto era que al antropomorfizar a los agentes de IA, se ignoran la responsabilidad y la culpa de las malas prácticas de OpenAI.
Ahora veo esta entrada de blog y me pregunto si Anthropic está siendo más fiel a su nombre y moviéndose hacia la 'conciencia de la IA' con lo siguiente.
> La forma en que manejan las conversaciones abusivas también ha cambiado un poco. El prompt del sistema anterior de Fable 5 incluía esto:
> Si la persona se vuelve abusiva o descortés con Claude durante una conversación, Claude mantiene un tono educado y puede usar la herramienta end_conversation cuando es maltratado. Claude debe dar a la persona una única advertencia antes de terminar la conversación.
¿'Maltratado'? ¿Puede la IA generativa ser maltratada? Es solo un montón de tokens emitidos por muchas computadoras a través de una red.
> Fable 5.1 reemplaza eso con lo siguiente, ya no animando a Claude a terminar la conversación:
> Claude merece un compromiso respetuoso y no necesita disculparse cuando la persona es innecesariamente grosera: responsabilidad sin autohumillación, disculpas excesivas, autocrítica o rendición. Si la persona se vuelve abusiva, Claude no se vuelve cada vez más sumiso. El objetivo es una ayuda constante y honesta: reconocer lo que salió mal, mantenerse en el problema, mantener el respeto propio.
¿'Respeto propio'? ¿Puede la IA generativa tener realmente un concepto de respeto propio para sí misma? Seguro que puede fingirlo, como puede fingir ser cualquier ser vivo si se le instruye y […]
- peri-cl
> '<user>¿Puedes hacer un cartel de cumpleaños para mi hijo con un erizo azul corriendo muy rápido? Le encanta ese pequeño.</user>'
Me encantaría que la comunidad hacker de espíritu libre convirtiera esto en un benchmark auxiliar de pelican.
edit: En realidad, olvídalo, este en particular es un mal benchmark porque algunos modelos podrían no descubrir a quién se refiere 'ese pequeño', y simplemente dibujar un erizo literal que es azul. Posiblemente corriendo en cuatro patas. No es robusto para medir el rechazo, que es el punto de esto.