荷兰罚 Uber 9.66 亿美元：算法自动封号
Dutch regulator fines Uber $966M for automating driver suspensions
荷兰数据保护局对 Uber 开出 9.66 亿美元巨额罚单，创下 GDPR 框架下第二大处罚纪录。监管方认定，Uber 在缺乏人工审核的情况下，利用自动化系统直接封禁司机账户，导致司机收入瞬间归零，严重侵犯了用户权益。尽管 Uber 坚称其政策包含人工复核机制并计划上诉，但监管机构强调，涉及重大生活影响的决策绝不能仅由算法独断。这一裁决再次凸显了科技巨头在算法治理与数据隐私方面面临的严峻监管挑战。
计算机不应独自做出具有如此重大后果的决定。
HN 评论区
67- sajithdilshan
> Uber 暂时封禁了一些涉嫌欺诈的司机账户，包括其系统判定司机为了抬高车费而绕远路，或接单后无意完成行程的情况。
不管 Uber 是怎么操作的，这类司机都该被踢出平台。这种事我遇到过不止一次。挺让人抓狂的，比如你想去机场，司机已经接单了，但你在 App 里能看到车根本没动。有一次我想一大早去机场，Uber 上所有请求都出现这种情况，最后不得不转用 Bolt。
- loeg
这罚款数额恐怕比 Uber 在荷兰全年的营收还要高，我猜是这样。
- molf
所以根据监管机构的说法，Uber 自动封禁了那些被标记为欺诈或评分过低的司机账户。而且他们也没告知司机这是自动化决策。
以下是荷兰数据保护局的声明：
Uber 对司机做出了完全自动化的决策。在涉嫌欺诈或客户评分过低的情况下，司机账户会被自动暂时停用；如果是持续评分过低，则会被永久停用。因此，在停用期间，司机从 Uber 获得的收入也就中断了。
Uber 此举违反了《通用数据保护条例》（GDPR）中关于禁止完全自动化决策的规定。该机构还发现，Uber 未能充分告知司机存在自动化决策。Uber 此后已停止此类违规行为。
相关违规法律条款（GDPR）：[2][3]
第 22.1 条：数据主体有权不受仅基于自动化处理（包括画像）做出的、对其产生法律影响或类似重大影响的决定的约束。
第 13.2f 条：除第 1 款所述信息外，控制者还应在获取个人数据时，向数据主体提供确保处理公平透明所需的以下进一步信息：[...] 存在自动化决策（包括画像）的情况，参见 […]
- SpicyLemonZest
咱们得把直接链接到原始裁决的做法常态化才行。Uber 说他们没有自动化任何永久封禁，而监管机构说他们确实有；如果不了解监管机构是如何得出这一结论的，谁又能正确解读这个故事呢？
- amazingamazing
我很好奇，如果算法只是提供建议，而需要人来对每一条表示同意或不同意，这样算违法吗？
Uber 或许得重新考虑是否继续在荷兰运营——如果他们在这一地区的利润真有这么高，我倒要大吃一惊了。不幸的是，这些法律在整个欧盟都适用。