Flockカメラの誤作動で無実の女性が2度も銃を突きつけられる
Woman pulled over twice after Flock-linked software connected her to homicide
ウィスコンシン州ブルックフィールドの女性アンバー・ニューウェルさんが、1週間のうちに2度、Flockカメラの誤警報により警察に銃を突きつけられて停車させられた。ミルウォーキー警察は、殺人事件に関連する車両として誤って登録された警報を削除し忘れていたことを認めた。ニューウェルさんの娘は「また警察に捕まるの？」と毎回尋ねるという。警察は適切な対応だったと主張するが、システムの更新漏れが原因で無実の市民が危険な目に遭った事例として、監視カメラの運用管理体制に疑問が投げかけられている。
テクノロジーは警察の仕事をより速く、より安全にするはずだ。しかし、コンピュータシステムが誤作動を起こすたびに、普通の人が理由もなく銃口を向けられることがある。
HNでの議論
241- jmward01
こうしたツールをどう使えるようにするかを考える時間を無駄にするべきではない。健全な社会にはプライバシーが必要であり、健全な社会は長期的な安全の傾向につながる。大量監視は、たとえ完全に実装され、使用されたとしても、根本的に欠陥があり、修正不可能だ。なぜなら、それは社会の長期的な健全性を破壊するからだ。それが、私がFlockや同様の技術に反対する理由だ。
- tptacek
これこそが、私たちがシカゴ近郊のオークパークでカメラを撤去した理由だ。
人々はオンラインで、これはFlockの技術的な問題だと言うが、それは周辺的なものに過ぎない。核心的な問題は、州が設定したホットリストシステムが、そもそもリアルタイムの取り締まりを想定していなかったことだ。そこには多くの不正確さがあり、人間規模の取り締まりでは問題にならないが、取り締まりが自動化されると大きな問題になる。
この区別は重要だ。なぜなら、Flockには基本的にこれについてできることがほとんどないからだ。どの車を停止すべきかという真実の源はFlockのものではなく、Flockのものにはなり得ない。それは、州に属し、州が責任を持つ中核的な法執行データだ。Flockのような企業は、おそらくホットリストデータを二重チェックし、相互検証するための複雑な仕掛けを組み立てることはできるだろうが、彼らの目標は相反している。車を検知して阻止するための時間はほんの数分しかないのだ。私たちの警察署は、これらのヒットについて音声確認を行うと約束したが、それがうまくいかないことは誰もが知っていた。
私たちの具体的なケースでは、盗難車よりも無実の車両をより多く停止した（ただし、銃を突きつけられたわけではない）。それぞれの誤ったケースで、イリノイ州LEADSは、車が「回収」された数週間後も「盗難」として記録を残していた。「回収」を引用符で囲むのは、これらの車の多く（おそらくほとんど？）はそもそも盗まれたのではなく、親族が無断で運び出したものだったからだ。これらのデータソースがリアルタイムの取り締まりに適さない理由についてのさらなる文脈！
残念ながら、すべての法執行機関のALPR配備は……
- offordscott
新しい警察記録によると、アンバー・ニューウェルとFlockの話は単なる「カメラの誤作動」以上のものだ。ミルウォーキー警察は、30日分のFlockの位置履歴を使って彼女の車の移動パターンを特定し、予測されたルートに沿って警官を配置し、高リスクの停止を実施し、殺人事件の証拠として車両を押収した。10日後、車両がどうやら返還された後、時代遅れのアラートによりブルックフィールド警察が再び銃を突きつけて停止させた。
https://www.reddit.com/r/1A_Auditor_Summit/comments/1vx3mbw/...
大きな未回答の疑問：法執行機関の証拠保管から車両が道路に戻ったのに、なぜ法執行機関のアラートが解除されなかったのか？私たちは、その答えを見つけるためにFlockの監査証跡とアラート履歴を要求し続けている。
- Animats
それはFlockのエラーではない。法執行機関のエラーだ。Flockはシステム内の虚偽の令状に責任を負わない。
その女性は、2回もそれをやった警察署に対して損害賠償を求める良い訴訟理由を持っているだろう。それはずさんな警察活動だ。
- thataccount
この技術がこのように使われるのを止めたいという怒りのレベルは、それがうまく機能していないという不幸な記録ではなく、熱狂的なピッチに達するべきだ。
- tezo_cooper
これは私がメイン州にいたときに起こった。友人がその日の早い時間に、すべての書類を揃えて中古車を購入した。双方とも満足していたが、何らかの形でFlockがその車を「盗難」と誤ってフラグ付けし、買い手や売り手からの要求もなく、合理的な理由もなく警察を派遣した。これは完全に許容できない。
- Tostino
私は今朝、郡の委員会会議でこれらのカメラに反対して発言したところだ。彼らは郡全体にさらに50%のカメラを設置することを議論している。最初の設置は、ニュース報道や宣伝なしに行われた。
https://www.youtube.com/live/1OmEmpL-7qY?t=720&is=z_mb9ZEVCs...
どうやら、委員会にはプライバシーに反対する2人の深刻な反対者がいて、対応しなければならない。そして、コミッショナーは少なくとも契約を終了したいと考えているようだ。他の2人のメンバーがどう考えているかは全く分からない。
- firefoxd
私は駐車場に車を停めたとき、誰かが私のナンバープレートを盗み、盗難車のものと交換した。翌日、この国に来たばかりの弟が、初めての仕事に行くために私の車を借りた。彼は何十台ものLAPDのパトカーに取り囲まれ、大通りの真ん中で銃を突きつけられ、初日の仕事着のまま泥の中を引きずられた。
彼は、その日、撃たれずに済んだのは、質問したり自分を説明したりする語彙がなかったからだと言う。彼は膝蹴りを食らい、腕をねじ上げられ、屈辱を受け、そしてパトカーの後部に放り込まれた。私たちの車は白いインフィニティだった。盗難車は黒いホンダだった。
警察が情報を得ると、調査はゼロだ。「捕まえた！」そして即座に行動する。それは、巨大なLLMが生成したPRがあり、「lgtm」とコメントしてマージするようなものだが、誰かの命がかかっているのだ。