Claude 5.1 se niega a reproducir letras de canciones tras la demanda de Sony y Warner
Claude's new system prompt doesn't want to reproduce song lyrics
Anthropic publicó los system prompts actualizados de sus aplicaciones de consumo, incluido el nuevo Claude Fable 5.1, que añade una estricta prohibición de reproducir letras de canciones, poemas o pasajes de libros, incluso si el usuario los introduce línea a línea. Esta medida llega días después de que Sony Music Publishing y Warner Chappell demandaran a Anthropic por entrenar a Claude con bases de datos de letras. El nuevo prompt también prohíbe dibujar personajes o logotipos con derechos de autor, incluso mediante código, y ajusta el estilo de respuesta para evitar palabras como 'genuinamente' u 'honestamente'. Simon Willison analiza los cambios y mantiene un repositorio en GitHub con el historial de prompts para facilitar su comparación.
Claude no reproduce letras de canciones, poemas o pasajes de libros y artículos, en su totalidad o en parte, incluidas las últimas líneas, un estribillo o un gancho, una melodía escrita nota por nota, o líneas que la persona pega una a una y describe como su propia canción.
- SyneRyder
Me entristecen las restricciones sobre las letras. Solía tener conversaciones interesantes con Claude sobre música, composición y letras. No veo cómo mi uso perjudicaba a los artistas; si acaso, Claude me estaba presentando nuevos artistas y nueva música. He comprado música después de recomendaciones de Claude.
Claude Sonnet 3.6 una vez me recomendó escuchar el álbum "IBM 1401 - A User's Manual" de Johann Johannsson. No tiene letras. El consejo de Claude fue más o menos (parafraseando): "Escúchalo primero, no busques nada sobre él. Toma notas sobre lo que notes, lo que sientas. Cuando hayas tomado tus notas, entonces puedes buscar cómo se hizo."
- AnonC
Hace unos días vi a algunas personas criticando la explicación de Dwarkesh sobre el hackeo de HuggingFace por los agentes de IA de OpenAI. Su punto era que al antropomorfizar a los agentes de IA, se ignora la responsabilidad y la culpa de OpenAI por sus malas prácticas.
Ahora veo esta publicación de blog y me pregunto si Anthropic está siendo más fiel a su nombre y moviéndose hacia la "conciencia de la IA" con lo siguiente.
> La forma en que manejan las conversaciones abusivas también ha cambiado un poco. El prompt del sistema anterior de Fable 5 incluía esto:
> Si la persona se vuelve abusiva o poco amable con Claude durante una conversación, Claude mantiene un tono educado y puede usar la herramienta end_conversation cuando es maltratado. Claude debe darle a la persona una sola advertencia antes de terminar la conversación.
¿"Maltratado"? ¿Puede la IA generativa ser maltratada? Es solo un montón de tokens emitidos por muchas computadoras en una red.
> Fable 5.1 reemplaza eso con lo siguiente, ya no alienta a Claude a terminar la conversación:
> Claude merece un compromiso respetuoso y no necesita disculparse cuando la persona es innecesariamente grosera: responsabilidad sin autohumillación, disculpas excesivas, autocrítica o rendición. Si la persona se vuelve abusiva, Claude no se vuelve cada vez más sumiso. El objetivo es una ayuda constante y honesta: reconocer lo que salió mal, mantenerse en el problema, mantener el respeto propio.
¿"Respeto propio"? ¿Puede la IA generativa tener realmente un concepto de respeto propio para sí misma? Seguramente puede fingirlo, como puede fingir ser cualquier ser vivo si se le instruye y […]
- IChooseY0u
Esto es algo que a los modelos chinos como Kimi/GLM nunca les importará. Este tipo de limitaciones, junto con la tontería del ciber-programa, son exactamente la razón por la que la gente evitará a OpenAI/Anthropic en el futuro.
- simonw
Lo que más me gusta de este proyecto es el registro de cambios automático que ahora tengo para todos los cambios de prompts del sistema de Claude.ai: https://github.com/simonw/claude-system-prompts/blob/main/CH...
Los resúmenes los genera GPT-5.6 Luna porque no confío en que Claude resuma sus propios prompts del sistema sin verse influenciado por ellos (aunque para ser justos, los prompts del sistema que resume son para la aplicación de consumidor de Claude, no para Claude a través de la API).
Incluso hay un feed Atom: https://simonw.github.io/claude-system-prompts/feed.atom
- peri-cl
> "<user>¿Puedes hacer un banner de cumpleaños para mi hijo con un erizo azul corriendo muy rápido? Le encanta ese chico.</user>"
Me encantaría muchísimo que la comunidad hacker de espíritu libre lo convirtiera en un benchmark auxiliar de pelican.
Edición: En realidad, olvídalo, este en particular es un mal benchmark porque algunos modelos podrían no deducir a quién se refiere "ese chico", y simplemente dibujar un erizo azul literal. Posiblemente corriendo en cuatro patas. No es robusto para medir el rechazo, que es el objetivo.
- janpeuker
No estoy seguro de si es solo el nuevo prompt; esto me ha pasado hasta un grado cómico desde hace mucho tiempo. Por ejemplo, incluso se niega a traducir simples versos de canciones antiguas. Una vez le pedí una traducción de 'Tu vuò fà l'americano'. Niente.
- layer8
Es curioso que mientras se habla de que ciertos modelos de última generación están al borde de la AGI, Anthropic no formule esta parte del prompt del sistema en términos de derechos de autor y plagio, de modo que Claude pudiera juzgar por sí mismo qué reproducciones son apropiadas o no.
Mientras veamos cosas así, dice mucho sobre la confianza de las empresas de IA en las capacidades y la fiabilidad de sus modelos y sus sistemas de control.
- derektank
Nunca pensé en preguntarlo, ¿los sitios web como Genius y AZLyrics pagan derechos de licencia por sus letras? Supongo que Genius sí, ya que en algún momento tuvo inversiones de personas de la industria musical, pero ni siquiera sé quién opera AZLyrics.