那些永远无法被AI渗透测试的系统
The systems that no one will test
2020年，我在疫情最严重时发现了一个能访问巴西联邦系统的漏洞，可以获取2亿多人的完整个人信息。我立即联系了相关部门，他们迅速修复了问题。如今，随着ML技术的飞速发展，特别是RL环境的激进扩展，许多前沿实验室正在利用第三方公司构建复杂的训练环境。我担心的是，那些从未有机会接受AI渗透测试的政府系统，正面临前所未有的风险。就像气候变化一样，ML已成为一个全球性问题，但我们尚未学会以全球视角思考。
我们仍然没有以全球视角思考，但必须学会这样做，即使这需要相当长的时间。
HN 评论区
77- Modified3019
相关链接：
https://www.reddit.com/r/YouShouldKnow/comments/1wssf4u/ysk_...
https://imgur.com/a/6FaQQhb (版主下架前的原帖)
>The Work Number 是 Equifax（几年前曾发生大规模数据泄露的那家）拥有的数据库，包含就业和薪资信息。
>你可以在 theworknumber.com 创建登录账号并下载报告。我的报告有七十四页，包含了我过去 13 年里工作过的每一家公司的信息，包括我收到的每一笔薪水的确切金额（税前和税后）以及工作时长。其中还有就业起止日期、解雇原因、扣款详情、福利注册、工会隶属关系等等等等。
>这些数据直接来源于你员工所使用的 HR 平台（ADP、Rippling、Gusto、iSolved 等）。Equifax 将你的数据出售用于背景调查等用途。
>你无法从 The Work Number 中删除你的数据。你可以冻结你的报告（类似于信用报告），但如果潜在雇主无法访问你被冻结的报告，这可能会导致你失去资格。
>为什么要知道这一点（YSK）：如果你正在面试工作，你可能会处于显著劣势，尤其是在薪资谈判方面，因为他们实际上可以看到你的收入，包括你最近一笔薪水的金额。债权人也可以访问这些报告。
>这是我见过的最大的隐私侵犯，几乎没人意识到这一点。当然，我们中没有人同意让我们的就业和收入数据被 [...] 处理。
- mikewarot
自 2015 年 OPM 被黑事件以来，我就明显感觉到，我以前的 IT 管理领域已经彻底迷失了方向。没人知道什么是数据二极管（data diode），也没人知道为什么要用它们。本应明显实现空气隔离（air-gapped）的系统却并没有做到。
虽然很容易把这一切归咎于 AI 在黑客技术上的进步，但我认为这主要是一个 IT 问题。我们集体忽视了历史的教训，只是用补丁来应付那些糟糕选择的操作系统。
--
我们需要空气隔离、数据二极管和基于能力的操作系统。既然我已经退休了，只要精力允许，我就在着手做数据二极管这部分。
本周我个人的教训是，在尝试构建开源数据二极管时，Waveshare RP2350-ETH 是一个糟糕的选择，因为其 CH9120 以太网接口无法进行混杂模式（promiscuous mode）操作。不过，它可能仍然足以构建一个能够镜像网站的数据二极管，组件成本远低于 50 美元。时间会证明一切。
- pjc50
“许多永远没有机会接受 AI 渗透测试的政府系统将会遭遇什么？”
噢，不管他们愿不愿意，也不管他们知不知道，每个人都会遭到 AI 渗透测试。这是上网的代价。局势很可能会继续恶化。例如，英国图书馆和捷豹路虎最近都因遭到入侵而遭受了长时间的停机。我怀疑我们最终可能会彻底失去几家大型知名企业的控制权，因为它们被攻陷了。
- teiferer
> 我真诚地不怪他们：[...] 软件就是软件
这种态度才是问题所在。为什么我们的行业对质量抱有这种态度？我所在的小镇上的每一家自行车店，在质量把控上都比世界上平均水平的软件公司要好。是的，软件比自行车更复杂。但软件工程师的薪水是修车师傅的 10 倍，而且他们还有奢侈的时间花在产品上；相比之下，街角的修车师傅只需 10 分钟就能诊断并修好我的车，修好后我就敢把命交给他，骑着车穿梭在车流中。
我们需要区别对待软件。“哦，反正只是软件，耸耸肩”这种态度已经行不通了，如果它曾经行得通的话。