AI가 감자칩 봉지를 총으로 오인해 흑인 고등학생들이 무장 경찰에 무릎 꿇고 수갑 채워져
Black high school students sue after AI mistakes Doritos bag for gun

Lawyers' Committee for Civil Rights Under Law가 Omnilert, Baltimore County Public Schools, Baltimore County Police Department를 상대로 소송을 제기했다. 2025년 10월, Omnilert Gun Detect가 Kenwood High School에서 감자칩 봉지를 총으로 오인해 90% 확률의 무기 탐지 경보를 발령했고, 학교 관계자와 경찰이 오류를 확인했음에도 불구하고 무장 경찰이 출동해 흑인 학생 4명을 무릎 꿇리고 수갑을 채운 뒤 수색했다. 소송은 AI 경보 검증 절차와 취소된 경보가 무장 출동으로 이어지지 않도록 하는 정책 마련을 요구한다.
이 학생들은 거짓 경보를 일으키기 쉬운 기술에 의해서만 실패한 것이 아니라, 우리가 아이들을 학교에 보낼 때 안전을 지켜줄 성인들에 의해서도 실패했습니다. 보호 대신 총을 마주하고 트라우마를 겪었습니다. 그리고 상황은 더 나빠질 수도 있었습니다.