AI監視カメラを欺く「敵対的ファッション」、その限界と可能性
Adversarial Fashion Makes a Statement on AI Panopticon
街角に広がるAIカメラに対抗し、顔認識や物体検出を混乱させる柄を織り込んだ衣服が登場している。DEF CONで発表されたnoRecognitionのパターンは11の検出モデルを欺き、Cap_ableやUrban Privacyはすでに製品を販売。ただし専門家は「不可視のマントではない」と慎重で、照明や角度、歩容認識、モデルの再学習によって効果は脆く崩れると指摘する。
「カメラが数フレームだけあなたをクマだと思っても、あなたのように歩くクマがいる」とMireshghallahは言う。
HNでの議論
48- bsenftner
顔認識システムには、顔認識に対して自分を不可視にするために悪用できる弱点が一つある。ただし、人間から見ればめちゃくちゃ目立つ。その悪用とは、人間の顔を持たないこと、つまり鼻と口の上に中心を合わせて二つの目が並ぶという規則的なパターンを持たないことだ。やり方は簡単で、第三の目、第二の鼻、あるいはその他の「人間らしくない」顔の特徴のステッカーを貼るだけで、顔認識からは見えなくなる。これが機能する理由は、画像の中から顔を見つけるための最初のテストが弱いテストだからだ。動画フレームのあらゆる可能な矩形を評価しなければならないので、高速でなければならない。そのテストは人間の顔の規則的なパターンを探しており、そのテストを通過した矩形だけがさらに詳しく調べられる。最初のテストに失敗すれば、その矩形は不可視になる……
- yndoendo
「スキャナー・ダークリー」という映画で、より優れた敵対的ファッションの手段として、異なる顔の間を遷移する補間マスクのことを思い浮かべた人は他にいるだろうか？
超リアルなマスクを使って、誰かを陥れるための偽の証拠を作り出すこともできるのではないか？人々はAIを信じるあまりに盲目で、原始的な捜査さえすれば犯人ではないと証明できるはずの無実の人が刑務所に残されている。[0]
[0] https://www.forbes.com/sites/larsdaniel/2026/04/01/innocent-...
- focusedone
こういうデザインがもっと簡単に買えるようになってほしい。アクセスできるカメラで実験するのは楽しそうだし、週末にいろんな場所で着てみたい。
いたちごっこなのは重々承知だが、これを俺たち全員に押し付けようとしている連中に余計な仕事をさせるのは構わない。
- arjie
例の画像での顔検出はすぐに正しい部分に焦点を合わせたし、その後は残りを切り取れば認識はずっと簡単になる。納得はいかない。でもクールなギミックではある。白黒のやつのMARPATっぽい見た目は好きだ。
社会的に受け入れられる最も効果的な仕組みは、ブルカかCOVIDマスクか、あるいはバイクヘルメットのインナーキャップだ。
- rglover
Juggalosはまだ無敗なのか？[1]
[1] https://www.codastory.com/surveillance-and-control/juggalo-p...