런던 역에서 50만 명 얼굴 스캔했지만 체포 0건, 오탐 1건

우리 엄마는 마을로 들어오고 나가는 길이 두 개뿐인 작은 마을에 사는데, 경찰이 그 길에 ALPR을 설치했어. 거기엔 강력 범죄가 없고, 경찰서는 교통 단속(음주운전, 과속, 주차 위반 딱지, 사고)과 작은 마을 범죄(소음 민원, 자전거 도난, 길 잃은 개 등) 대응만 해. 내가 알기로 ALPR이 사람을 잡은 건 오래된 차량 등록증밖에 없어. 그런데 이제 경찰서는 '훌륭한 범죄 퇴치 도구'라며 플록 카메라를 원하고 있어.

요즘 플록 카메라를 보면서 생각했어... 우리의 실제 ROI는 뭐지? 세상이 예전에 끔찍했고 이런 사업들이 괴물 같은 범죄 격차를 메울 건가, 아니면 그냥 거대한 낚시질인 건가... 그냥?

예전부터 머릿속에 아이디어가 있었는데 나는 사업가가 아니라서 공짜로 공개할게.

AI 모델을 만들어서 JD Sports와 Sports Direct(그리고 Stone Island 같은 다른 브랜드)의 카탈로그로 훈련시키고, 발라클라바, 불법 전기 자전거, 전동 킥보드를 탐지하는 방법을 가르치는 거야. 카메라와 연결해서 머신러닝으로 범죄 가능성 확률을 계산하게 하고, '윌리'(뒷바퀴로만 타기)를 하면 확률을 높이는 거지.

그러면 이 나라 대부분의 범죄를 단번에 마이너리티 리포트 할 수 있을 거야.

이름은 스크로트스캐너(ScroteScanner)라고 부를 수 있지.

누군가는 차별이라고 하겠지만, 내 주변에서 보는 대부분의 반사회적 행동(ASB)은 정확히 그런 옷을 입거나 그런 걸 사용하는 사람들이야.

만약 그들이 인기를 얻기 시작하면(가능성은 낮지만) 최악의 경우에는 정장 입은 갱스터들이 다시 나타나는 더 고급스러운 사회가 되는 거지.

이런, 우리 기술자들은 사회 문제를 다루는 데 정말 서툴러.

모든 사람을 감시하고, 잘 행동하지 않으면 반드시 벌하고 잘 행동하면 보상한다고 주장하는 무언가를 재발명하려고 하잖아!

그것에는 이름이 있어. 바로 종교야.

나는 이런 종류의 만연한 감시에 강하게 반대하지만, 그 숫자는 믿기 어려워. 경찰이 소수의 용의자만 시스템에 넣었거나, 특정 개인만 표적으로 삼았거나, 우리가 모르는 다른 이유가 있을 수 있어. 영국에서 경찰이 일부 범죄자를 보호하는 건 표준 관행에서 벗어난 게 아니야.

기사에서 이 문장을 봤는데, 그들이 감시 목록을 매우 제한했고 아마도 편향이라는 비난을 더 받지 않기 위해 특정 인종 그룹을 제외했을 가능성이 크다는 걸 시사해. 그래서 체포가 적은 거지.

"특히 중요한 점은 감시 목록의 성장이 의도적이고 통제되었으며 BTP 정책에 부합했다는 것입니다. 우리는 데이터 품질, 거버넌스, 보호 조치가 견고하도록 보장하면서 더 제한된 감시 목록으로 시작했습니다."

이건 기본적으로 그들이 체포하고 싶지 않은 특정 범주에 속한 사람들을 피하기 위해 감시 목록을 제한하고 있을 가능성이 거의 확실하다는 걸 암시하는 얼버무리는 말로 읽혀. 왜냐하면 그렇게 하면 필연적으로 '제도적 인종차별'이라는 비난을 받게 될 테니까.

작년에 크로이던(그리고 이 주제에 관한 기사를 검색하면 다른 여러 지역에서도)에서 안면 인식 기술로 상당수의 범죄 용의자를 찾아냈다고 하거든.

https://www.bbc.com/news/articles/cddpzglzrv7o

"20년 넘게 수배된 여성을 포함해 170명 이상의 범죄 용의자가 런던 남부에서 실시간 안면 인식(LFR) 6개월 시험 기간 동안 체포되었다."

하지만 흑인을 너무 잘 잡아내서 인종 편향이라는 비난을 받은 사례도 있었어. 물론 그 커뮤니티에 여러 이유로 범죄 이력이 있는 사람이 더 많기 때문일 수도 있고.

https://news.sky.com/story/essex-police-pauses-use-of-live-f...

"에식스 경찰은 실시간 안면 인식 사용을 중단한다 […]"

이게 전혀 효과가 없다고 결론 내리는 건 공정하지 않다고 생각해.

체포가 전혀 없었던 이유는 수배 중인 범죄자들이 이제 그 역들을 피하기 때문일 수 있어. 그런 범죄자가 상대적으로 적다는 점을 고려하면 증명하거나 반증하기 어렵지(유동 인구는 줄겠지만 아주 약간만).

또한 그런 범죄자들이 애초에 그 역들을 피했을 수도 있어. 이것도 증명하기 어렵고.

또는 이제 그 역들에서 사람들이 덜 못되게 굴 수도 있어. 그렇다면 그런 역에서의 사건 수가 줄었나?

그건 내 생각에 (반)증명하기 더 쉬울 텐데, 실시간 안면 인식을 돌릴 필요도 없어. 사건이 신고된 후에만 녹화하고 녹화본을 보는 게 더 나은 선택이야.

영국에 있는 카메라는 시민들에게 감시당하고 있다는 걸 상기시키기 위해 존재해. 평화로운 시위가 있을 때 시민들에게 감시당하고 있다는 걸 상기시키기 위해 있는 거지. 거리 카메라와 모든 사람의 휴대폰 추적으로 만들어진 감시 국가는 우리 통치자들에게는 완벽하게 괜찮아.

중국이 '나쁘다'는 말을 계속 듣지만, 서방 국가들이 중국에서 모든 걸 베끼는 걸 봐... 대기업을 단속하는 것만 빼고. 우리는 개인 데이터를 수집하고 각 시민에 대한 파일을 만들고, 평화로운 시위를 처벌하고, 소셜 미디어로 대중을 통제할 거야. 하지만 중국처럼 부자를 처벌하는 건 받아들일 수 없어. 그게 서방이 넘지 않을 레드라인인 것 같아, 억만장자를 보호하는 선이지.

그렇다면 기차 여행이 얼마나 비싼지 알 수 있겠네. 6개월 동안 고유 얼굴이 50만 개만 포착되거나 식별됐다니. 하루 약 3천 명, 시간당 120~150명, 여러 역을 통틀어 분당 2~3명꼴이야.

안타깝게도 이 실험은 확장하기에 너무 비싸다는 딱지가 붙을 거야, 아이러니하게도.

확실히 부서는 제한적이기보다 확장 가능한 자체 비용 효율적 솔루션을 구축하기보다 구매하는 쪽을 선호하겠지.

프랑스와 네덜란드를 봐, 그들의 정부 부서는 이미 마이크로소프트 제품에 대한 의존도를 줄이는 작업을 하고 있어. 이건 최고위층에서 나와야 해. 소비자에 그치는 대신 예산을 가진 이 부서들이 기술 생산자가 되어야 한다고.