C2PAカメラは現実と接触しても生き残れない
C2PA Cameras Do Not Survive Contact with Reality
David Buchanan（retr0id）氏は、Android版C2PA（コンテンツ認証）が根本的に破綻していると主張する。Key AttestationやGoogle Play Integrityに依存するが、ソフトウェアLPEや低コストのハードウェアフォールトインジェクション攻撃により、完全にパッチされたPixelデバイスでもルート権限を取得でき、C2PA署名の偽造が可能になる。同氏は実際にAI生成画像をPixel Cameraアプリの署名付きで検証パスさせ、Googleからは「Won't fix (infeasible)」とされたが、$7,500のバウンティを受け取った。ハードウェア攻撃はパッチ不能であり、AndroidのC2PA実装は本質的に安全ではないと結論づける。
C2PA on the Android platform is broken, in a way that cannot be realistically patched.
HNでの議論
130- mistercow
このアイデアが明らかに実現不可能で、15分も真剣に検討すれば問題全体が解決不能だとわかるという事実はさておき、私がこれについて最も苛立つのは、写真を信頼できる証拠として保存するという偽りの約束が積極的に有害だということだ。完璧なシステム、あるいは完璧に近いものさえ構築できないだろう。せいぜい、AI写真を気軽に本物として提示するのを難しくして、本当に重要なケースだけが残るようにするのが関の山だ。「最良の」ケースでは、写真全般に対する一般の信頼が高まるだけなので、実際に金や権力がかかっていて、真正性を偽装するために手間をかける価値がある場合、一般はより騙されやすくなる。現時点での最善の結果は、写真が今や絵とほぼ同じ証明価値を持つという点で全員が認識を共有することだ。真正性を証明しようとする浅はかな蛇油商法は、その認識を遅らせるだけだ。
- yaro330
Androidのセキュリティに対するこうした面白い皮肉は、Pixelが文字通り業界で最も安全なデバイスの一つであり、Googleがセキュリティに多額の投資をしていることを無視している。ハードウェア認証は私の知る限り破られたことはなく、ソフトウェア認証だけが偽装可能で、それもGoogleがPixel 3世代まで続けている絶え間ないいたちごっこだ。C2PAがアナログホールの影響を受けないわけではないが、画像に深度データを焼き込めば、暗室と写真の写真というアプローチは崩壊する。それはすでに行われている。
- trentor
これは広告のためのコンプライアンスだ。クライアントがプロジェクトにAIを使いたくない場合、監査証跡を見せればいいし、それが偽造だと判明したら、偽造したサプライヤーを指摘すればいい。私たちの代理店は、アートワークにAIを使いたくないクライアントのためだけでなく、EU AI法のためにも保険に加入した。彼らは、サプライヤーがAI法に準拠していない場合に、不正なサプライヤーから金を取り戻すためにC2PAを使う。
- uqers
Googleが、パスワードのクライアント側検証と同等のアプローチを実装するのにこれほど力を注いだことに非常に驚いている。設計者は誰も、ルート化されたデバイスで破られる可能性があると指摘しなかったのか？
- LiamPowell
私は常に、C2PAは「この写真は（例えば）BBCから来たもので、彼らが提供された編集チェーンを検証したから署名した」と言うためのものだという印象を持っていた。カメラをスクリーンに向けることができることは常に明らかであり、C2PAに関わる誰もそうでないと主張したことはないと思う。C2PAが言っていることと、一部のジャーナリストが思っていることの間には大きな隔たりがあるように思える。
- vanyle
これは「ドアロックは現実との接触に耐えられない」という話に少し似ている。目的は国家支援のアクターが偽メディアを制作するのを防ぐことではなく、摩擦を加え、怪しい広告代理店や写真家が自分の写真が本物だと主張するのを防ぐことだ。
- randomblock1
ハードウェアレベルでも、カメラデータが通過する別のチップだったとしても、それも十分ではない。人々はTPMを破ったことがある。カメラセンサーに焼き付ける必要があるだろう。それでも、次のレベルから、派手な光学系とディスプレイ、またはそのようなもので攻撃できる。この種の問題を完全に解決することは不可能だと思う。
- spaqin
まずPixelに実装されたのは、ある意味皮肉だと思う。スマートフォンのカメラが快適な画像を得るために行うAI処理の量を考えると。