Школьников в Мэриленде повалили на колени из-за того, что ИИ принял пачку чипсов за пистолет
Black high school students sue after AI mistakes Doritos bag for gun

Lawyers' Committee for Civil Rights Under Law подал иск от имени четырёх чернокожих подростков против Omnilert, школ округа Балтимор и местной полиции. В октябре 2025 года система Omnilert Gun Detect в Kenwood High School приняла пачку чипсов за оружие и выдала сигнал с вероятностью 90%. Тревогу отменили, но вооружённые полицейские всё равно приехали: подростков поставили на колени, надели наручники и обыскали. Иск требует реформировать процедуры проверки сигналов ИИ.
Этих учеников подвели не только технологии, склонные к ложным тревогам, но и те самые взрослые, которые должны были их защищать, когда мы отправляем детей в школу. Вместо защиты они встретили их оружием и травмировали. А могло быть и хуже.