GoogleがSynthID Detectorを公開、AI生成メディアを見破る
Googleは、AI生成コンテンツに埋め込まれた不可視の電子透かし「SynthID」を検出するツール「SynthID Detector」を公開した。画像・動画・音声に対応し、Google DeepMindが開発、Nvidia、OpenAI、Kakaoが採用。一般的なAI検出ツールとは異なり、透かしという能動的な信号を検出するため信頼性が高い。ファイルをアップロードすると透かしの有無を判定し、元ファイルは即時削除される。
SynthIDはAI生成コンテンツに人間には知覚できない電子透かしを直接埋め込む。この透かしはコンテンツ自体に織り込まれているため、どこへ行ってもコンテンツと共に移動する。
HNでの議論
70- Tiberium
これに認証が必要なのが意味不明すぎる。OpenAIの自社ツール（https://openai.com/research/verify/）は認証不要だぞ。
Google自身も以前は認証不要の方法を提供していた（まあかなりニッチだったけど）。画像をGoogle Image検索にアップロードして「この画像について」を見ると、その画像がGoogle AI生成かどうか表示されたんだ。今はもう表示されない。
- Retr0id
Googleが実際にどう動いているかについてもっと透明性を持たず、画像を一括で、あるいはオフラインで分類する仕組みも提供していないのは本当に残念だ。
これまで見つけた中で最高のSynthID解説記事はこれだ：https://fyx.me/articles/attempting-model-extraction-of-googl...
実際にどう動いているか（おそらく）と、自分で分類器を訓練する方法が、そこそこ良い結果とともに書かれている。
- jdranczewski
ついに来たか、以前の実装は本当に馬鹿げていた！OpenAIは素晴らしいツールを持っていたが、自社のウォーターマークしか検出できなかったし、Googleのやり方は「画像をGeminiにアップロードしてAI生成かどうか聞く」というもので、トークンと労力の無駄遣いにしか思えなかった。
（兄弟コメントが代替案としてGoogle Image検索に画像を通す方法を指摘しているが、私が読んだサポート記事にはそれが示されていた記憶がないので、残念ながらその存在を知らなかった）
- HelloUsername
https://blog.google/innovation-and-ai/models-and-research/go...
- nialv7
なんで俺はサインインしなきゃいけないんだ？