Flock CEO 直面我：摄像头致我遭错捕
Flock's CEO Faced Me After Its Cameras Led to My Wrongful Stop
我的 Range Rover 因车牌录入错误被 Flock 摄像头锁定，导致我和妻子在停车场被四名警察包围。这场由人类失误引发、AI 技术指数级放大的乌龙事件，让我与 Flock 创始人 Garrett Langley 在 The Drivecast 播客中展开坦诚对话。我们探讨了 FBI 管理的 NCIC 数据库的滞后性、地方警局的“屏蔽”机制为何无法跨区生效，以及隐私担忧下 Flock 的未来。这不仅是我的个人遭遇，更是自动化车牌识别系统广泛误用、甚至被用于跟踪公民的缩影。
Flock 摄像头基于公司 AI 技术，将人为错误以指数级速度放大，但错误的源头并非技术本身。
HN 评论区
114- scrapcode
我绝对是有偏见的，但这里确实有很多试图转移或至少分担责任的企图，却鲜见真正的问责。Flock 自己误读了车牌，就这么简单，因此绝不应在生产环境中被用于向当局通报非常严重的事项。
我们已经很清楚警方反应过激且错误百出。显而易见的是，即便这是罪犯的确切车牌，他们也能非常容易地（而且确实会）更换车牌——所以你不应该仅仅因为车后安装的普通车牌就激进地拦截车辆。你上次检查自己的车牌并确认它还是你的是什么时候？你甚至能认出那是你的车牌吗？这种事就发生过在我身上。
- Cider9986
有一张基于 OpenStreetMap 的 ALPR 地图，你可以查看附近的设备：
除了 Flock 之外还有很多，Flock 只是数千家制造针对无辜大众大规模监控的糟糕公司之一。还有像 Axon 和 Motorola 这样的其他 ALPR 公司。
Flock 可能因为其 AI 功能和庞大的数据库而比那些公司更糟糕，但其他制造监控技术的公司并非出于道德原因而避免使用 AI 功能。
- sterlind
看起来情况是：
- 警察搞砸了，将一个不完整的车牌号（34DTM）输入了 NCIC 数据库。
- Flock 摄像头发现了他那辆价值 15.5 万美元的豪华 Range Rover，其车牌类似于 34DTM10，并对此进行了标记。
- 警察在冲进去包围他之前，甚至懒得去核对警情报告。
我的想法：
- 尽管我非常不喜欢 Flock，但在这里似乎并不是它的错。这完全是电影《巴西》（Brazil）里的场景，Flock 只是那台打字机。它是助燃剂，而非起因。
- 警察的无能令人震惊。无论是单个警员、部门还是官僚体系，他们都很不称职。可能是因为他们免受后果的制约——这些人可能会误杀无辜，而最坏的结果也就是被解雇（参考 QI 事件）。
- 如果这不是一辆由记者驾驶的 15.5 万美元的 Range Rover，这一切根本不会成为新闻。有多少开着破旧 Corolla 的人遭遇过同样的情况？
- dylan604
“不可避免会发生的情况是，让我们以租车为例：租车公司报告车辆被盗。”
我听说过租车公司非常激进地报告车辆被盗的故事。听起来 Flock 不得不做大量工作来处理租车公司专门提交的报告。这让我想知道，租车公司在向部门反馈“车辆已找到”以撤销被盗报告时，态度是否同样积极。我猜并不积极。
这些租车公司必须为其草率使用被盗车辆报告的行为承担责任。这本质上是一场合同纠纷，并非警方的职责范围。如果我允许某人借我的车，即使他们说第二天会还，警方也不会将其视为车辆被盗的情况。这与车辆未归还给租车公司并无二致，那为什么警方愿意介入呢？
- dundarious
如果 Flock 对这个数据库存在这么多问题，而他们的所有解决方案都是拼凑的，且这些解决方案仅局限于当地使用 Flock 的司法管辖区，那么这就是一个糟糕的产品。
如果你基于一个糟糕的数据库构建产品，就不能将由此产生的糟糕产品的责任归咎于那个糟糕的数据库。如果它不适合其用途，那么产品设计师的问题与其他问题一样严重。
这对于一个如此依赖自动化以实现快速响应且后果严重的产品来说，更是双倍适用。
我明白这可能听起来像是“完美是优秀的敌人”，但这个领域的影响堪比医疗设备。
- dundarious
是否有任何证据或其他形式的理由来支持 Flock CEO 关于其对旧金山犯罪率下降负有责任的声明？我很难相信 Flock 摄像头是造成如此广泛影响的核心。我不是当地人，也只做了粗略的搜索，但我没有看到民选官员做出同样的声称——我看到他们表示这更多与变化的社会经济因素有关。
- f154hfds
> Garrett：在最高层面上，如果能有针对此类技术的州级法规，我会无比高兴。这对我来说再清楚不过了，因为此类技术缺乏监管，仅仅表明我们的民选官员需要比历史上行动得更快。
同意。我们见过很多这种情况——科技公司乞求技术监管。如果没有监管，似乎我们将永远陷入这种恶性竞争，在现有法律框架内不断试探底线，因为越来越多的不择手段的公司加入其中。
- scoofy
我认为我们尚未展开讨论的是，鉴于犯罪分子也能利用这项技术，未来的警务应该如何存在。
我们确实有人驾驶着装有电磁铁的车辆来欺骗各种合理的交通执法设备。还有人利用缺乏发动机 immobilizers 的车辆闯入并兜风，经常在撞车后将其遗弃。
我当然对那些说我们不应该有监控的人持开放态度，但如果不雇佣一支真正的警察大军，我们如何维持执法？我们实际上已经到了这样一个地步：技术允许极小的群体大规模剥削公众。
在绝大多数情况下，我们已没有公共资金可以纯粹依靠人力进行执法了。我怀疑替代方案并非“更大的自由”，而是有组织犯罪或私刑正义。