「AI対策フォント」は無意味で有害 アクセシビリティを損ない、結局は検閲に加担
Anti-AI fonts are useless and harmful

AIによるスクレイピングを防ぐため文字を難読化する「AI対策フォント」について、開発者がその考え方自体を批判した。スクランブルされた文字はスクリーンリーダーなどの支援技術も解釈できず、障害者のアクセスを遮断する。また、アクセシブルにするには機械可読なメタデータが必要となり、結局は中央集権的な本人確認システムに繋がりかねない。さらに、公開された議論はAI企業の学習データに利用され、既に多くの対策は破られている。人間が読める情報は機械にも解析可能であり、いたちごっこは無意味だと主張する。最終的には、Webの検閲やペイウォールを強化する結果を招くと警鐘を鳴らす。
人間に見える情報は、機械にも解析可能な方法が必ず存在する。
HNでの議論
161- palmotea
> この件について行われている公開投稿や議論は、すでにAI企業がこれらの難読化を回避するためのマルチモーダルモデルの訓練方法を教えているようなもので、そのほとんどはすでに突破されている。新しいフォントや技術デモはすべて、AI企業に回避策を考案するよう挑戦状を突きつけるベンチマークになっていると言っても過言ではない。そして、いずれにせよ回避されるだろう。人間が情報を見ることができるなら、その情報を解析する方法があるということだ。「ゴースト」フォントは、独自の対処法を持つ、単なるスクレイピングの障害物の一つになるだろう。
1. 私は、このような無力感と無力さを助長する感覚が好きではない。
2. それがそれほど無駄だとは思わない。これは暗号化ではないので、難読化を回避することは常に可能だが、コストを引き上げることはできるだろう。うまくいけば、わざわざ手間をかける価値がないと思えるところまで引き上げられるかもしれない。
それは次のような場合に起こり得る:
1. 非常に多くの方式が存在し、回避策のカタログが扱いにくくなる場合。
2. 特に、サイトごとやページごとに新しい難読化フォントを生成できる方式があればなおさらだ。
3. そうすれば、スクレイパーにテキストを得るためにより大きなコストを強いることになる。Chromeインスタンスを起動してスクリーンショットをOCRするか、ページをリバースエンジニアリングしてスクレイピングするために1、2ドルかLLMクレジットを費やすかだ。
- evnp
shieldfont.orgを紹介してくれてありがとう!これまで見た中で、単なる視覚的な実験以上のものとして設計されていると感じる最初のものです。ランディングページを読むのは興味深いです。特に、アクセシビリティに関するセクションは、この投稿の冒頭の前提と矛盾しているように思えます。
> スクリーンリーダーは実際の単語を取得します。
ページを読み上げるスクリーンリーダーがスクランブルされたテキストを受け取ることは決してなく、私たちのNVDAテストはまさにそれを確認しています。スクリーンレビューとタッチ探索はテストされていません。ShieldFontは、シールドされたパッセージをデフォルトでaria-hidden="true"を使用してアクセシビリティツールから隠します。なぜなら、おとりの読み上げは流暢で文法的に正しいが間違った英語であり、それは沈黙よりも悪いからです。
> 実際の単語は同じページに封印されたままで、ブロックの上の目に見える通知にそれらを明らかにするコントロールがあります。これはデフォルトでオンになっており、マウス、キーボード、スクリーンリーダーのいずれでも到達できます。それを押すと、読者のブラウザが計算負荷の高いパズルを解くことになります。JavaScriptと数秒の処理で、これはほとんどの大規模スクレイパーが費やそうとしないものです。これにより、単語はスクリーンリーダー、翻訳者、コピー&ペーストの手の届く範囲に置かれます。
あなたの考えを聞きたいです。また、余談ですが、このTUI風のブログデザインとカラーパレットが大好きです(もしかしてbearblogのテーマ?それでもアップvoteに値します)。
- blehn
アクセシビリティを擁護しながら、コントラストの低い模擬VGAテキストを使うとは皮肉だな。
- logseman
> 好むと好まざるとにかかわらず、公開されているすべての情報は、必然的に、それにアクセスする許可を持つ誰もがアクセスできるようになる。これが人々が計画を立てる必要がある基本シナリオだ。
この状況の核心は、許可が関与していないことだ。彼らはただそれを行う。一方、私が彼らに対してそれを行えば、罰金、投獄、処刑される。この不平等の基本シナリオが何らかの形で改善されるまで、彼らを止める動機が存在し続けるだろう。
- condour75
これらは実際に使うことを意図しているのか?パフォーマンスアートのように見えるが。
- kazinator
これは明らかに愚かだとすぐにわかる。なぜなら、私がAIを使ったことの一つに、誰かの読みにくい手書き文字を解読するというのがあり、それは驚くほど上手くいったからだ。
AIが何が書かれているかを解読してしまえば、それを「見えない」ようにすることはできないので、それが正しいとわかる。
読みにくいフォントは、正常な視力、高い識字率、認知障害(ディスレクシア)のない人間にとってもアクセシビリティの問題を引き起こすだけであり、AIはテキストを簡単に読み抜いてしまうだろう。
これが電子文書で行われた場合、AIはグリフを見るのではなく、基になる文字コードを読むので、さらに愚かだ。
誰かがこれを試そうとするなんて信じられない(そして、自分の仮説を検証せずに効果があると信じるなんて)。
- piker
法的文書において、機械可読なバージョンを保持し、難読化されたバージョンを上部の凡例とともに配布することで、利点が生まれる可能性がある。私たちは次のようなものを提案した:
「この文書には、自動システムによるレビューを防ぐための対策が含まれています。受領者は、画面上または印刷物で内容を読んだことを確認する必要があります。真正な視覚障害を持つ受領者は、要求に応じて未対策の文書を受け取る権利がある場合があります。」
テストでは、テキストの一部を難読化することで、当時の最先端のLLMのほとんどをすり抜けることができた。
私たちは、オンザフライでレンダリングされ、誤ったまたは偽のUnicodeマッピングを報告するフォントを使用した:https://tritium.legal/blog/noroboto しかし、他の人々も合字を使って同じことを提案し、実行している。
- simonh
つまり、無視できるほどのオタク(彼ら自身も無視できるほどの存在)が、自分たちとユーザーの生活を困難にする技術を使って多大な労力と手間をかけ、おそらく機能もしないだろうが、LLM大手がどうせ気にしないテキストを隠すためにそれを行う、ということだ。
クールだ。