Flock 相机故障致女子两次遭持枪拦截
Woman Pulled over at Gunpoint Twice After Flock Camera Glitch
Amber Newell 在短短一周内两次遭遇 Brookfield 警察持枪拦截，原因竟是 Flock 相机系统误报。该自动化系统扫描车牌后，错误地将她的车辆标记为与谋杀案相关。Milwaukee 警方后来承认，由于员工疏忽，本应数天前清除的警报未被移除。尽管 Brookfield 警长表示警员反应符合程序，但这一连串失误让 Newell 及其年幼的女儿深受惊吓，孩子甚至担心每次上车都会“被抓”。这起事件暴露了依赖人工维护的自动化执法系统存在的严重隐患：当技术故障遇上人为疏忽，无辜者可能瞬间陷入危险境地。
技术本应让警务工作更快更安全，但偶尔系统出错，普通人却会无缘无故地直面枪口。
HN 评论区
239- jmward01
我们不该浪费时间琢磨怎么让这些工具变得好用。一个健康的社会需要隐私，而健康的社会才能带来长期的安全趋势。大规模监控作为一种工具，从根本上说，即便完美实施和使用，也是存在缺陷且无法修复的，因为它会破坏社会的长期健康。这就是我反对 Flock 及类似技术的原因。
- Animats
这不是 Flock 的错。这是执法部门的错。Flock 不为系统里虚假的搜查令负责。
这位女士很可能有充分的理由向警方索赔，因为他们干了两次。这是警方工作粗疏。
- tptacek
这正是我们在芝加哥附近的 Oak Park 拆除摄像头的原因。
人们在网上谈论时，仿佛这只是 Flock 的技术问题，但这只是边缘问题。核心问题在于，各州建立的黑名单系统从来就不是为实时执法设计的；其中存在大量不精确之处，在人工尺度的执法中往往无关紧要，但在自动化执法中却至关重要。
区分这一点很重要，因为 Flock 基本上对此无能为力。关于哪些车应该被拦截的真相来源不属于 Flock，也不能属于 Flock；这是属于州政府的核心执法数据，责任在州政府。像 Flock 这样的公司或许可以搭建鲁布·戈德堡式的装置来双重甚至多重核查黑名单数据，但他们的目标存在冲突：他们只有几分钟的时间来检测并拦截车辆。我们的警方承诺会对这些命中进行语音确认，但大家都清楚这行不通。
在我们的具体案例中，我们拦截的无辜车辆比被盗车辆还多（虽然没动枪）。在每一个虚假案例中，伊利诺伊州 LEADS 系统都在车辆“找回”数周后仍将其标记为“被盗”；“找回”加引号是因为许多（甚至大多数？）这些车压根就没被盗，而是被亲属在未通知的情况下开走了。更多关于为何这些数据源不适合实时执法的背景！
不幸的是，每个执法部门的 ALPR 部署……
- thataccount
愤怒的程度和阻止此类技术被滥用的愿望本该达到沸点，而不是变成一份关于其运作失效的不幸纪录片。
- tezo_cooper
这事发生在我在缅因州的时候——一位朋友当天早些时候买了一辆二手车，手续齐全。买卖双方都很满意，不知何故 Flock 错误地将该车标记为“被盗”，并在没有任何合理依据、也未征求买家或卖家意见的情况下派出了警察。这完全不可接受。
- firefoxd
我曾在商场停车时，有人偷了我的车牌，换上了一辆被盗车的车牌。第二天，我刚来美国不久的弟弟借我的车去第一天上班。他被几十辆 LAPD 警车包围，在大街中央被持枪指着，穿着第一天上班的衣服被拖进泥里。
他告诉我，那天能没被打死，唯一的原因是他没有词汇量来提问或解释自己。他被膝盖顶撞、手臂被扭折、受尽羞辱，然后被扔进警车后座。我们的车是一辆白色英菲尼迪，而那辆被盗车是一辆黑色本田。
当警察拿到信息时，根本没有任何调查。就是“抓到他了！”然后立即行动。这就像有个巨大的 LLM 生成的 PR，你只评论一句“lgtm”就合并了，只不过这次有人命悬一线。
- nemomarx
即使标记是正确的，为什么需要拔枪出动这么多警察？一辆涉及凶杀案调查的车，并不意味着开车的人就是嫌疑人。这根本不是确凿的身份认定。
- duxup
这种“电脑说你做了某事”的拦截之类的事情简直荒谬。你毫无辩护余地，电脑说你做了，你就得面对拔枪相向等后果。