MS PaintとPhotos、ローカル生成画像にGUIDを不可視透かしとして埋め込む

このAIの側面は偽りの問題だ。本当の問題は、作成するすべての画像に一意の識別子をこっそり追加していることだ。誰かがあなたのミームを気に入らなければ、マイクロソフトに著作権の召喚状を送るだけで、あなたの氏名、住所、メール、電話番号、その他マイクロソフトアカウントに関連付けられたデータを即座に入手できる。年齢確認と同様に、これはインターネットの匿名性に対する戦争におけるもう一つの武器だ。

AI生成テキストに関する警告（私は投稿したが、著者ではない）。しかし、MSペイントとMSフォトは、AIで操作された写真に、可視（オフにできる）と不可視（無効にできず、ユーザーに通知されずにバックグラウンドで静かに実行される）の両方の透かしを追加するようだ。ローカルモデルを使用して操作を実行する場合でもだ。これは、AI強化の背景削除/除去などの機能にも適用されるかどうかは不明だが、不可視の透かしは画像のピクセルと画像のメタデータの両方に埋め込まれ、どちらにも、使用された正確なプロンプトと発信元のデバイス/ユーザー（マイクロソフト側）にリンクできるGUIDが含まれている。

明らかな次のステップは、watermarker.dllを（署名付きの）何もしないシムに置き換えるか、API呼び出しをMITMして、少なくとも自分のデバイス/アカウントにリンクされていない（nil？）GUIDを使用できるかどうかを調査することだ。

明白でないかもしれないが、私のより大きな懸念は「この画像がAIで生成/操作されたと識別できること」ではなく、「デジタルイエロードットが私たちに強制されたが、今回は正確なユーザー/デバイス/時刻/場所/文書などを特定して取得できる」ということであり、残っているプライバシーの幻想を完全に破壊している。

この動きに注目だ。

数か月前、マイクロソフトは、LLMが実際に関与しているかどうかに関係なく、Azure DevOpsのすべてのコミットにCopilotの「透かし」（自動追加されたメモにすぎない）を誤って付けようとした。彼らは、問題の原因であるVS Code Copilot拡張機能に多くのGitHub issueが提出された後、それを削除した。

マイクロソフトは実装が非常にずさんだ。その結果、ペイントやその他のLLM対応アプリの使用はお勧めしない。誤ってスタンプが押される可能性があるからだ。

ウィンドウズを使うのは久しぶりだと認めるが、MSペイントがもはや単なるクリック＆ポイントのピクセル彩色アプリではないと聞いて、とても驚いている。純粋な「ペイント」アプリとして残し、派手な機能は新しい画像エディタなどに追加すればよかったのに。

彼らは、本当に優れたソフトウェアを作るのではなく、昇進のために変更を続けるように労働力を最適化したのだと思う。

先日、これが誤って発動したので、Paint.netをインストールした。スクリーンショットを貼り付けて、サイズを変更したかっただけだ。AIで作成されたというバナーが表示され、それを反映するように更新されるだろうと言われた。

ググると、透かしのソースコードがここにある。 https://github.com/microsoft/InvisMark

プライバシーに関する懸念は理解できるし、マイクロソフトがこれが自社のツールが行うことだと明言するのは当然だ。しかし、いつの日か、人間の真正性を署名し保存するためにもっと多くのことをしなかった理由を振り返って不思議に思うのではないかと心配している。「AI操作済み」というスタンプを持つことは、デジタル系統ツールの一部であるべきだ。

さて、AI関連のものに透かしがあるのは興味深いが、良くはない。しかし、他のみんながすでに話している。

私の質問は...それはどのように機能するのか？それは堅牢なのか？若い頃、単純なステガノグラフィーでPNGのピクセルにデータを隠したのを覚えているが、それは楽しい小さなプロジェクトだった...しかし脆かった。指紋はJPEG圧縮にどのように正確に耐えるのか？それは画像全体に繰り返し埋め込まれるのか、それとも一箇所だけなのか？もしその一箇所がたまたま純黒だったら、JPEGアルゴリズムはそれをすべて消してしまうのではないか？

> Copilot+ PCでは、画像生成はローカルだが、プロンプトのモデレーションはリモートのまま

これに不快感を覚える人はいる？それはあなたのコンピュータで、ローカルで実行されているのに、マイクロソフトが「ノー」と言える。

フォルダを開こうとしたら、マイクロソフトに許可を求められるようなものだ。