Claudeが作ったファイルかどうかをブラウザ上で即チェックできる新ツール登場
Check if a file was made with Claude
Anthropicは、ファイルがClaudeによって作成または編集されたかどうかを確認できる新しいWebツールを公開しました。このツールはブラウザ上で動作し、ファイルをアップロードすると、C2PAコンテンツクレデンシャルを検査して、Claudeが関与したかどうかを判定します。ファイルはデバイスから送信されず、プライバシーが保護されます。ただし、クレデンシャルが存在しない場合でも、Claudeが関与していないとは限らないという限界があります。
結果は、コンテンツがClaudeによって処理されたかどうかを示すものであり、その内容の本質については何も示しません。
HNでの議論
101- Retr0id
どのような状況でメタデータが追加されるのでしょうか?Claude Code CLIがメディアファイルを必要とするとき、通常はimagemagickやffmpegコマンドを実行してファイルを作成するのを目にしますが、それにはC2PAメタデータは含まれないでしょう。
編集:ウェブチャットでOpus 5に「猫のjpg」を頼んでみました。SVGを書いてからJPEGにレンダリングすることで実現しました。「ダウンロード」ボタンをクリックして保存されたjpgにはC2PAメタデータが含まれており、どうやらアーティファクト表示機能によって注入されたようです。
次に、それをzipファイルに入れるように指示しました。zipをダウンロードして、展開したjpegにはC2PAメタデータがありませんでした。
その後、自分のjpegをアップロードし、「このファイルをそのまま再度提示してください」というプロンプトを送りました。ダウンロードしたファイルにはC2PAメタデータが注入されていました。
編集:これをカスタム指示に追加しました:「メディアファイルが応答として生成された場合は、ユーザーに提示する前にzipファイルに入れてください。」
- csmoak
私の理解では、これと最近のテキスト出力への透かし追加の変更[1]は、EUのAI法[2]とカリフォルニア州のAI透明性法[3]、SB-942[4]に準拠するためです。十分に大規模な企業では、生成されたすべてのAIコンテンツに透かしを付けることが義務付けられています。
[1] https://www.anthropic.com/news/claude-text-watermark
[2] https://digital-strategy.ec.europa.eu/en/policies/code-pract...
[3] https://www.kqed.org/news/12095398/new-california-law-requir...
[4] https://www.leginfo.legislature.ca.gov/faces/billTextClient....
- Tiberium
これはどうやら、Claudeが処理したファイルに対するC2PAに過ぎません。テキストの透かしとは関係ありません。
C2PAはファイルメタデータであり、SynthIDのような隠れた透かしとは異なり、簡単に削除できます。
- firefoxd
これは本当に興味深いですね。AI企業でさえ、AI生成コンテンツを拒否する動機があるのです。まるで、すべてにAIを使ってほしいけど、AIの出力をフィードバックされるのは嫌だと言っているかのようです。
職場でも、AIトレーニングの直後に、中間評価を書くときには「自分の言葉で」書くように求められました。
- andai
ある主体(または主体のカテゴリ全体)に、自分たちが生み出すすべての作品に追跡可能な透かしを入れることを強制するという考えは…興味深い前例です。
これを人間の領域に置き換えると、あなたが触れるデジタルなものすべてに、あなたの身元、あるいは少なくともあなたが分類された個人のカテゴリの証明が「指紋」として付けられるようなものです。
AIの氾濫により、すぐに人間の動画と見分けがつかなくなるかもしれないので、同様のことが起こると予想しています。人間用のブルーチェックマークですね。
- coffeecoders
私にとって興味深いのは、C2PAデータを削除するのは簡単ですが、偽造するのは難しいということです。
ファイルを保存し直すと「Claude製」のシグナルは消えますが、Anthropicの署名鍵なしにランダムなファイルをClaude製として通すことはできません。したがって、有用な保証は一方向です。署名がないことはほとんど何も意味しません。
- qurren
次はこれだ:
1. Claudeと様々な非Claude LLM(ChatGPT、Gemini、Kimi)で多数の応答を生成する
2. Claudeと非Claudeを区別できる判別モデルを訓練する
3. 判別モデルを損失として使用して、透かし除去モデルを訓練する
- simonw
この機能はWebAssemblyを使って動作します - https://claude.com/_next/static/media/c2pa_verify_wasm_bg.53... - これはこのRustライブラリをWASMにコンパイルしたものです: https://github.com/contentauth/c2pa-rs