Anthropicの「品質に影響なし」という主張は、会話全体を見ていない
AI text watermarking and quality loss
EU AI Actの透明性ガイドラインを受け、主要AIラボがテキストへのウォーターマーク導入を進めるなか、その品質への影響が議論されている。Anthropicは「Claudeの出力品質に影響しない」と主張し、根拠とするGoogleのSynthID-Text論文も品質保持をうたう。しかし論文の補足資料には、同一プロンプトへの複数回答の多様性が失われるというトレードオフが記されている。人間による品質テストは単発の回答のみを対象にしており、実際の会話的な利用やリトライ、多数回答による合意形成には影響が及ぶ可能性がある。
彼ら自身の言葉を借りれば、結局のところ「システム全体の品質を低下させうる」のだ。
- viraptor
興味深いレビューだが、いくつかの事柄を混同しているように思える。Gruberの主張は品質を犠牲にすべきではないというものだが、引用されているどの情報源も、そういう事態が起きていることを示していない。回答の多様性が減るということは、より一貫して良い/悪い/同じ品質の回答が得られるということかもしれない。本物のtemperature=0の回答が得られないと不満を言う人はたくさんいて、彼らはむしろ一貫性を歓迎するだろう。
その文が気に入らないという実例は、私の意見ではあまり良くない。単に回答を引き直すのではなく、そのスレッドで会話を続けて、どこが気に入らないのかを言えばどうだろう？あるいは20の代替案を要求し、どれが正しい方向に進んでいるかを示して、さらに20を要求するとか？一つのサンプルでゼロから再試行するのは時間の無駄で、品質について何も示していない。
基本的に、すべて理論的な話だ。品質が一貫して低下している実際のベンチマークやサンプルを見せてほしい。
- ethanj8011
> Natzir Turradoという技術コンサルタントが実際にこれをテストした（スペイン語の記事）。オープンモデル上で論文の設定と透かしキーを使ってSynthID-Textを再現したのだ。彼は透かし入りのモデルに、海岸沿いの町への思い出深い旅行について描写するよう5回頼んだ。返ってきた5つの回答のうち4つは、ほぼ同じ書き出しだった：「私の心は今でも歌う/踊る、あの趣のある海岸沿いの町への旅行を思い返すと…」。透かしなしのモデルでは、3つが異なる書き出しだった。
2/5対4/5のテストは明らかに無効な実験だろう。
- cowlby
これはすでに起きている。Claudeが私のコンテンツすべてに「あなたは半分正しい、そして間違っている半分が役に立つ部分だ」という透かしを入れているからだ。