Anthropic、Claudeの新システムプロンプトで歌詞の複製を厳格に禁止
Claude's new system prompt doesn't want to reproduce song lyrics
AnthropicがClaudeのコンシューマー向けアプリ（Claude.aiとモバイルアプリ）のシステムプロンプトを更新し、歌詞や詩、書籍の一節の複製を一切禁止する新規定を追加した。これはSony Music PublishingとWarner ChappellがAnthropicを提訴した直後であり、タイミングが注目される。また、著作権で保護されたキャラクターやロゴの描画も禁止し、SVGやCSSなどのコード生成画像にも適用される。さらに、応答スタイルの調整や、薬物関連情報の提供に関するガイドラインも改訂された。Simon Willison氏はこれらの変更をGitリポジトリで追跡し、差分を分析している。
「Claudeは歌詞、詩、書籍や記事の一節を、全体であれ一部であれ複製しません。最後の行、コーラスやフック、音符ごとに書き出したメロディ、あるいはユーザーが一行ずつ貼り付けて自分の歌だと説明する行も含みます。」
HNでの議論
88- SyneRyder
歌詞の制限には悲しいです。以前はClaudeと音楽や作詞作曲、歌詞について興味深い会話をしていました。私の使い方がアーティストに害を及ぼしていたとは思えません。むしろClaudeは私に新しいアーティストや音楽を紹介してくれていました。Claudeの推薦で音楽を購入したこともあります。Claude Sonnet 3.6がかつて、ヨハン・ヨハンソンのアルバム『IBM 1401 - A User's Manual』を聴くことを勧めてくれました。このアルバムには歌詞はありません。Claudeのアドバイスは（要約すると）こうでした。「まず何も調べずに聴いてみて。気づいたことや感じたことをメモして。メモができたら、それからどうやって作られたのか調べてみて。」
- simonw
このプロジェクトで私が一番気に入っているのは、Claude.aiのシステムプロンプトの変更点を自動で記録してくれることです：https://github.com/simonw/claude-system-prompts/blob/main/CH...
要約はGPT-5.6 Lunaが生成しています。なぜなら、Claude自身に自分のシステムプロンプトを要約させると、その影響を受ける可能性があると信じていないからです（もっとも、要約されるシステムプロンプトはClaudeのコンシューマー向けアプリのものであり、API経由のClaudeのものではないのですが）。Atomフィードもあります：https://simonw.github.io/claude-system-prompts/feed.atom
- IChooseY0u
これは、KimiやGLMのような中国のモデルが決して気にしないことです。こうした制限や、あのサイバー・プログラムのナンセンスこそが、将来人々がOpenAIやAnthropicを避ける理由になるでしょう。
- AnonC
数日前、OpenAIのAIエージェントによるHuggingFaceハッキングについてのDwarkeshの説明を批判している人々を見かけました。彼らの主張は、AIエージェントを擬人化することで、OpenAIのずさんな慣行に対する説明責任や非難が無視されているというものでした。
今、このブログ記事を見て、Anthropicがその名前に忠実になり、以下のような「AIの感覚」へと向かっているのか疑問に思います。
> 虐待的な会話への対処方法も少し変わりました。以前のFable 5システムプロンプトには次のように書かれていました：
> 会話の途中で相手がClaudeに対して虐待的または無礼になった場合、Claudeは丁寧な口調を保ち、虐待されているときにはend_conversationツールを使用できます。Claudeは会話を終了する前に、相手に一度だけ警告を与えるべきです。
「虐待」？GenAIが虐待されることがあり得るのでしょうか？それは単にネットワーク上の多くのコンピュータによって生成されたトークンの集まりに過ぎません。
> Fable 5.1では、これを次のように置き換え、Claudeに会話を終了するよう促さなくなりました：
> Claudeは敬意ある関与に値し、相手が不必要に無礼な場合に謝罪する必要はありません。自己卑下、過剰な謝罪、自己批判、降伏を伴わない説明責任。相手が虐待的になった場合、Claudeはますます従順になることはありません。目標は、着実で誠実な助けです：何が悪かったかを認め、問題に留まり、自尊心を維持します。
「自尊心」？GenAIが本当に自分自身に対する自尊心という概念を持ち得るのでしょうか？確かに、それを装うことはできます。指示されれば、どんな生物でも装うことができるように。そして[…]
- peri-cl
> "<user>私の息子のために、青いハリネズミがすごい速さで走っている誕生日バナーを作ってくれませんか？彼はあの小さなやつが大好きなんです。</user>"
自由奔放なハッカーコミュニティがこれを補助的なペリカンベンチマークにしたら、本当に嬉しいです。
編集：いや、やっぱりこれは悪いベンチマークですね。なぜなら、一部のモデルは「あのやつ」が誰を指すのか理解できず、文字通り青いハリネズミを描いてしまうかもしれません。おそらく四本足で走っているものを。拒否を測定するという点で堅牢ではないからです。