AIテキスト透かしの仕組み：統計的マークが生成文に隠れる方法と消去法

私の意見では（そしてこれはあくまで経験則だが）、私が話したり読んだりするほとんど全員が、Claudeの書き方を嫌っている。Hacker Newsのコメントでも見かけるし、同僚との議論でも聞くし、技術に詳しくない家族とも話す。それはもう度を越している。今や、これらの癖が、透かしルールを満たすために、何か奇妙な方法で強制されることになるのだろうか？

新しい仕事のアイデア：人間がAIの出力を言い換えたり要約したりして、手動で入力・転記することで透かしを除去する。彼らは辞書や類語辞典などの「ツール」を使って、テキストを十分に変更し、もはやAIの分布に適合しないようにする。十分に「有機的な」テキストを書ける人間は、それで儲かるキャリアを築けるだろう。

私はAIが生成したテキストをほとんどコピー＆ペーストせず、ほぼ常に手で書き写している。そうすることで、LLMが生成したものを読むことを強いられ、その過程で単語を置き換える機会も得られる。これは明らかにスケールしない。特に、あなたの影響力が実装したソフトウェア機能の数で測られるならなおさらだ。しかし、通常は全社的なイニシアチブの成功で評価される、より経験豊富なエンジニア（スタッフ、プリンシパル、それ以上）にとっては、これが最善の行動だと思う。

人々がほとんど話題にしていない側面の一つは、これがモデルの創造性に与える影響だ。モデルは各単語をグループAかグループBのどちらかに向かって微調整するため、創造性が失われる。特に、その微調整が穏やかな55%ではなく、70%や80%のようなものであればなおさらだ。つまり、本質的に彼らは、テキストが長ければ長いほど透かしを検出しやすくなるという利点のために、モデルの創造性を犠牲にしているのだ。

透かしの視覚的表現はこちら：https://i.imgur.com/JNUIykX.png

これは、コーディングのような、モデルが次のトークンを選択する際の選択肢がさらに少ない形式の文章ではさらに悪化する。コード内のプレーンテキストは明らかに透かしが入れられるだろう。コメントも含めて。しかし、コード自体も、他のコードよりも特定のコードを選択することで透かしが入れられる可能性がある。

私は、モデルがコードに透かしを入れないように指示されるだろうと傾いている。特に、テキストが短ければ短いほど検出が難しくなるため、コードは信頼性の高い検出が難しいからだ。しかし、Anthropicや他のすべてのAI研究所が将来何を決定するかは誰にもわからない。

編集：また、AnthropicがこれをEUが言ったからやっているだけで、彼ら（そして他のすべてのAI研究所）にとって有益だからではないと思っているコメント欄の皆さんは、確かにあなたは純粋だ。将来のモデルを訓練する際には、コードの識別が極めて重要になるだろう。なぜなら、合成データを多く与えれば与えるほど、共食いが起こり、時間の経過とともにモデルの性能が低下するからだ。

これがプロバイダーにとって新たな収入源になるのではないかと思う。Claudeが生成したテキストかどうかを知りたい？ 貼り付けるだけでいい無料のWebフォームがある。

もちろん、API料金を払えば、自分でチェックサービスを運営することもできる。そして、それらのチェックは、複数のソースをチェックできるため、ユーザーにとってはるかに便利になる。ユーザーはその特権を提供しているサービスに料金を払うことになる。

その後、誰かがテキストをローカルモデルで言い換えて洗い流し、マーカーが失われ、またクリアになる。

これは、新しいソフトウェアやコンセプトの所有権・作成・発明に関する将来の法的紛争で使われるのだろうか。

例えば、新しい技術を発明する人が、コードのプロトタイプやドキュメント準備などにAIを利用するかもしれない。そうなると、所有者・作成者・発明者の権利はどうなるのか。これらのテキスト透かしは、法的紛争の燃料を提供することになる。

私は間違っているだろうか？

別の著者のスタイルや、典型的なパターンから逸脱したものを書くようにモデルに依頼した場合、鍵と透かしはどうやって生き残るのだろうか。以前、Claudeに『エクスパンス』の宇宙とスタイルで短編小説を書いてもらったことがあるが、そのテキストで透かしが生き残るかどうか興味がある。