Anthropicの新透かしにClaudeユーザーが激怒：仕事や授業での使用がバレる
Claude users are mad that Anthropic's new watermarks will catch them using it
AnthropicはEU AI法の透明性義務に対応するため、Claudeの出力にAI生成を示す不可視の透かしを導入した。しかしRedditでは、学生やジャーナリストが透かしによってAI使用を検出されることを懸念する声が上がる一方、支持する意見も多い。あるユーザーは「透かしは不倫理的で不愉快」と非難し、別のユーザーは「AI生成物のリスクを考慮すれば当然」と反論する。中には、トレーニングデータに他人の著作物を大量に使用したモデルが透かしを入れるのは皮肉だと指摘する声もあった。
「透かしが入ることで、Claudeを使って段落を整理した学生や、200ページの議事録を要約したジャーナリスト、創作に行き詰まって類義語を尋ねた作家が、額にデジタルタトゥーを刻まれたように特定されてしまうのです。」
HNでの議論
94- SeriousM
ついにAIテキスト汚染の問題に取り組み、インターネットを（今後）クリーンアップする方法を見つけたのに、人々は「自分の」出力がスパムとマークされることに文句を言い始めている。
まあ、解決策は簡単だ：もう一度自分で考えて、自分で文章を書けばいい。
私はこの透かしを歓迎する。ついに、誰かが私の時間を無駄にし、他人の分まで考えさせられるようなリクエストや回答を生成したことを簡単に検出できる信号ができた。もうその時代は終わった。
（この種のテキストを見抜くのは決して難しくなかったが、今は証拠がある。）
- pizzly
なぜAnthropicがここで注目されているのか分からない。Googleは少なくとも2024年後半からこれを行っている[1]し、OpenAIも約9日前から行っていると思う[2]。
[1]https://www.nature.com/articles/s41586-024-08025-4
[2]https://help.openai.com/en/articles/8912793-provenance-signa...
- taurusnoises
つまり、透かしは「スタンプ」というより、「単語の選択や文構造に織り込まれた、知覚できない統計的パターン」ということらしい。ということは、AIの応答はさらに「AIらしく」聞こえるようになるのだろうか？つまり、単語の選択やパターンのせいで、読んでいてさらにAIと見抜きやすくなるのだろうか？「知覚できない」という言葉があるが、この文脈ではどういう意味だろう？私のような技術に疎い頭では、ちょっと混乱してしまう。
- alanfranz
出典: https://support.claude.com/en/articles/16266773-how-claude-m...
> ユーザーや第三者がClaudeのマークを検出できるようにする
これが最も恐れる部分だ。偽陽性が起きたらどうなるのか？AI生成と判定されたら、テキストの任意の部分を変更しなければならなくなるのか？間違いを意図的に追加することを強いられるのか？
そして、LLMは既存の高品質な人間が書いたコンテンツで訓練されているのだから、よく書かれたテキストが偶然AI生成と誤判定されることが増えるのではないか？
さらに、すべてのプロバイダーがこれを行い、異なる透かしを使うなら、すべてのチェックで陰性になるまでランダムに変更を強いられるのか？
これは間違ったシグナルを生むと思う。以前から、偽陽性を返す学術剽窃チェッカーがあり、教師や教授が盲目的に信じていた。今やAIチェッカーはあちこちにあり、さらに増えるだろう。
校正はLLMの最も良い使い方の一つだと思う。私はまだ自分のテキストを書き、ネイティブスピーカーではないのでLLMに「誤り」を修正してもらう。通常、明確さが向上する。しかし今、私のテキストがAI生成と分類され、悪い結果を招くリスクがある。
EUを責めるべきかどうかは分からないが（笑）。
- twoslide
Redditの議論を要約しただけでニュースになるのか？