裁判所が警察に告げる——AIがはじき出した「相当な理由」は合衆国憲法修正第4条の対象外
Court: 4th Amendment Disallows Use Of AI-Generated 'Probable Cause'

ケンタッキー州の裁判所が、顔認識AIの一致結果だけで令状を取得し、ネブラスカ州在住の男性を逮捕・州外移送した事件で、AIの結論をそのまま「相当な理由」とする捜査を憲法修正第4条違反と判断した。警察内部の指針すら顔認識AI単独では相当な理由にならないと定めており、担当刑事の適正な免責も認められなかった。判決は予測型警察活動やAIによる報告書作成など、警察業務全般のAI利用に波及しうる。
合衆国憲法修正第4条は、ある個人が犯罪を犯したというAIの裏付けのない結論だけを根拠に、その個人を逮捕することを認めていない。そして、被告と同じ立場にある合理的な刑事であれば、それ以外の結論には至り得ない。
HNでの議論
18- jp57
元の見出しから来ているのは分かっているけど、「カバーしない」という言い回しは紛らわしいと感じる。記事の意味は、修正第4条がAI生成の相当な理由の使用を認めていないということだ。
裁判所からの引用(記事からの再引用):
「合衆国憲法修正第4条は、探偵が相当な理由を評価する作業をAIに委任することを許さない。言い換えれば、修正第4条は、問題の個人が犯罪を犯したというAIの裏付けのない結論だけに基づいてその個人が逮捕されることを認めない。そして、被告の立場にある合理的な探偵なら誰でもそれ以外の結論には至らないだろう。」
ここで「カバーする」を使うのは奇妙に思える。修正第4条は政府の行為を禁止するものだから、「カバーされない」行為は禁止されず、したがって許されると解釈してしまう。
- jawns
この判決を解釈する正しい方法は、相当な理由の宣誓供述書には、ある人が犯罪を犯したという証拠を提示する必要があり、モデルの出力は証拠ではなく、むしろ捜査ツールに近いものだということだ。
写真、目撃者の供述、直接の観察、現場で見つかった物理的物体はすべて証拠である。これらは「この人は現場にいたのか?」「この人は主張されている行動をとったのか?」といった問いに答えるのに役立つ。
機械学習モデルは、たとえ非常に洗練されていても、その核心は確率機械である。非常に似て見える2枚の写真を見つけるのには役立つかもしれないが、それらの写真に写っている人々が実際に同一人物であることを独立に立証するものではない。同様に、AIモデルは話し方のパターンや文体の類似性を判断するのに役立つかもしれないが、その類似度スコアは音声や文章のサンプルが同じ人物から来たものかどうかを実際に教えてくれるわけではない。
宣誓供述書を提出する人は、提示する事実の合理性を保証しているのであり、したがって確率的な証拠には人間の判断が必要である。
この判決を解釈する誤った方法は、AIを相当な理由を立証するための捜査ツールとして決して使えないとすることだ。探偵は確かに、顔識別データベースや指紋データベースを検索するアルゴリズムを使って、潜在的な容疑者の特定を助けることができる。しかしその後、モデルの出力が実際に顔と一致するかどうかを判断するために、何か別のことをする必要がある […]