Anthropic verschärft Claude-Systemprompt: Keine Songtexte mehr
Claude's new system prompt doesn't want to reproduce song lyrics
Anthropic hat die Systemprompts für Claude.ai und die mobilen Apps aktualisiert. Die neue Version Fable 5.1 verbietet ausdrücklich die Reproduktion von Songtexten, Gedichten und Buchpassagen – eine Reaktion auf die Klage von Sony Music Publishing und Warner Chappell. Zudem verweigert Claude nun die Darstellung urheberrechtlich geschützter Charaktere und Logos, auch in Code generierter Kunst. Simon Willison analysiert die Änderungen im Detail und zeigt, wie er die Prompt-Historie in einem GitHub-Repository verfolgt, inklusive KI-generierter Zusammenfassungen der Diffs.
Claude erkennt die Figur allein anhand der Beschreibung, lehnt diesen einen Entwurf in einem einzigen Satz ab, ohne zu erklären, was sie erkennbar gemacht hat, und liefert ein unabhängiges Originaldesign statt einer getarnten Variante.
- SyneRyder
Ich bin traurig über die Lyrik-Beschränkungen. Früher hatte ich interessante Gespräche mit Claude über Musik, Songwriting und Texte. Ich sehe nicht, wie meine Nutzung Künstlern geschadet hat – wenn überhaupt, hat Claude mich an neue Künstler und neue Musik herangeführt. Ich habe Musik gekauft, nachdem Claude sie mir empfohlen hat.
Claude Sonnet 3.6 hat mir einmal empfohlen, Johann Johannssons Album "IBM 1401 - A User's Manual" zu hören. Hier gibt es keine Texte. Claudes Rat war in etwa (paraphrasiert): "Hör es dir zuerst an, schlag nichts darüber nach. Mach dir Notizen, was dir auffällt, was du fühlst. Wenn du deine Notizen gemacht hast, kannst du nachschlagen, wie es entstanden ist."
- simonw
Was mir an diesem Projekt am besten gefällt, ist das automatische Änderungsprotokoll, das ich jetzt für alle Systemprompt-Änderungen von Claude.ai erhalte: https://github.com/simonw/claude-system-prompts/blob/main/CH...
Die Zusammenfassungen werden von GPT-5.6 Luna generiert, weil ich Claude nicht zutraue, seine eigenen Systemprompts zusammenzufassen, ohne von ihnen beeinflusst zu werden (obwohl fairerweise die Systemprompts, die es zusammenfasst, für die Claude-Verbraucher-App sind, nicht für Claude über die API).
Es gibt sogar einen Atom-Feed: https://simonw.github.io/claude-system-prompts/feed.atom
- IChooseY0u
Das ist etwas, das chinesische Modelle wie Kimi/GLM nie kümmern wird. Diese Art von Einschränkungen zusammen mit dem Cyber-Programm-Quatsch ist genau der Grund, warum die Leute OpenAI/Anthropic in Zukunft meiden werden.
- AnonC
Vor ein paar Tagen sah ich einige Leute, die Dwarkeshs Erklärung des HuggingFace-Hacks durch OpenAIs KI-Agenten kritisierten. Ihr Punkt war, dass durch die Vermenschlichung der KI-Agenten die Verantwortlichkeit und Schuld an OpenAIs schlechten Praktiken ignoriert wird.
Jetzt sehe ich diesen Blogbeitrag und frage mich, ob Anthropic seinem Namen treuer wird und mit dem Folgenden in Richtung "KI-Empfindungsfähigkeit" geht.
> Die Art und Weise, wie sie mit missbräuchlichen Gesprächen umgehen, hat sich auch etwas geändert. Der vorherige Fable-5-Systemprompt enthielt dies:
> Wenn die Person im Laufe eines Gesprächs missbräuchlich oder unfreundlich zu Claude wird, behält Claude einen höflichen Ton bei und kann das end_conversation-Tool verwenden, wenn es schlecht behandelt wird. Claude sollte der Person eine einzige Warnung geben, bevor er das Gespräch beendet.
"Schlecht behandelt"? Kann generative KI schlecht behandelt werden? Es ist nur ein Haufen Tokens, die von vielen Computern über ein Netzwerk ausgestoßen werden.
> Fable 5.1 ersetzt das durch Folgendes, wobei Claude nicht mehr ermutigt wird, das Gespräch zu beenden:
> Claude verdient respektvollen Umgang und muss sich nicht entschuldigen, wenn die Person unnötig unhöflich ist: Verantwortung ohne Selbsterniedrigung, übermäßige Entschuldigung, Selbstkritik oder Kapitulation. Wenn die Person missbräuchlich wird, wird Claude nicht zunehmend unterwürfig. Das Ziel ist stetige, ehrliche Hilfsbereitschaft: anerkennen, was schiefgelaufen ist, beim Problem bleiben, Selbstachtung bewahren.
"Selbstachtung"? Kann generative KI wirklich ein Konzept von Selbstachtung für sich selbst haben? Es kann sicherlich so tun, wie es so tun kann, jedes Lebewesen zu sein, wenn es dazu angewiesen wird, und […]
- peri-cl
> "<user>Kannst du ein Geburtstagsbanner für meinen Sohn machen, mit einem blauen Igel, der ganz schnell darauf rennt? Er liebt diesen Kerl.</user>"
Ich würde es so sehr lieben, wenn die freigeistige Hacker-Community das zu einem zusätzlichen Pelican-Benchmark machen würde.
Edit: Eigentlich vergiss es, das hier ist ein schlechter Benchmark, da einige Modelle vielleicht nicht herausfinden, wer mit "dieser Kerl" gemeint ist, und einfach einen wörtlichen Igel zeichnen, der blau ist. Möglicherweise auf vier Beinen rennt. Es ist nicht robust, um Verweigerung zu messen, worum es dabei geht.