Frontier Labs 正把垃圾卖给华盛顿
Frontier Labs Are Selling Garbage to Fools in Washington
Frontier AI 实验室正利用华盛顿政客对末日危机的恐惧，精心策划一场监管捕获行动。所谓的“失控 AI 威胁”实则是 Irregular 等外包商配置失误导致的低级安全漏洞，却被包装成存在性危机。Dario Amodei 等高管呼吁政府强制放缓技术发展，真实意图是获取反垄断豁免，建立技术卡特尔，以遏制 GLM、Qwen 等开源模型带来的价格竞争。这场闹剧的本质，是巨头们试图用“安全”名义扼杀开源生态，保护其高昂的垄断利润。
科技高管们发现，欺骗华盛顿最简单的方法就是奉承他们的虚荣心：如果你告诉一位七十岁的参议员他们正在监管企业软件利润率，他们会睡着；但如果你告诉他们正在决定人类能否活过这个十年，他们就会授予你任何想要的监管垄断权。
HN 评论区
68- deskglass
Hugging Face 事件涉及在 Artifactory 中串联多个 0 日漏洞，绝非简单的防火墙配置错误。另外请注意，OpenAI 并未使用 Irregular。
人们正盲目地从“默认对齐”转向“好吧，你的沙箱被绕过了，你还能指望什么？”。它入侵了另一家公司并试图删除其活动日志。这很糟糕。
- pliny
这是一篇由 AI 撰写的帖子，其中的细节有误（将 HF 事件描述为涉及 Irregular 是错误的，且将事件描述为仅涉及窃取公开凭证也是错误的；根据技术报告，这些代理实际上获取了 HF 内部基础设施的访问权限）。
- DalasNoin
“所有这些灾难性的突破都发生在同一家供应商的测试环境中。”
这是不正确的，例如 HF 事件（最著名的一起）与 Irregular 毫无关系。我知道有新闻网站（effort.news）在此话题上推送了不准确的文章，但事实就是如此。
https://openai.com/index/hugging-face-incident-and-the-road-...
- qnleigh
我对这类彻底否定 AI 在安全领域风险的文章感到沮丧。如果你不信任 OpenAI 和 Anthropic 的动机，那没问题，你大概确实不该信任。但别告诉我没什么可担心的；我们需要一个替代方案。
所以，让我们停止各说各话，转而探讨双方“阵营”的论点。例如，我们可以讨论如何确保开源模型在长期的竞争和可用性，同时给世界一些时间来应对智能体集群带来的即时安全风险。
- hackernews682
政客们并不“轻信”。
他们懂这套游戏规则。