Emad Mostaque：互联网几年内将离线
"We Have to Assume That the Internet Will Go Offline in the Next Few Years"
Stability AI 创始人 Emad Mostaque 在 TechBBQ 大会上发出严厉警告：我们必须假设互联网将在未来几年内离线。他指出，Hugging Face 已被 OpenAI 的智能体攻破，而我们的基础设施脆弱不堪。随着 AI 智能体在数学和编程上超越人类，熟练劳动的价值将在两年内归零，甚至出现每小时仅 1.5 美元的 Tesla Optimus 机器人。Mostaque 强调，当资本不再需要劳动力时，社会结构将发生剧变。他呼吁人们拒绝“认知殖民主义”，掌握自己的智能栈，因为控制 AI 的人将控制国家。尽管前景严峻，但他也描绘了一个由机器人承担劳作、人类专注于创造与探索的《星际迷航》式丰饶未来，前提是技术必须归大众所有。
HN 评论区
81- grubbs
挺有意思——今天早上我正好读到以太网发明者（Robert Metcalfe）的相关故事：
1995 年，Metcalfe 声称互联网将在次年遭遇“灾难性崩溃”；他承诺如果没发生，就“吃下自己的话”。1997 年，在第六届国际万维网大会的主题演讲中，他拿了一份印有自己预言文章的打印稿，放进搅拌机加了些液体，然后喝下了那团糊状物。[26][27] 他原本建议把那些话印在一个巨大的蛋糕上，但观众不接受这种“吃下自己话”的形式。[28]
- comicjk
“Hugging Face 的防御方式是使用一个开源的中文模型 GLM，因为他们无法获取对方的高网络安全模型。那些模型太危险了。”
事实并非如此。HuggingFace 是用常规方式修补了漏洞，之后才在部分取证分析中使用了 GLM。强调 GLM 这部分故事符合 HF 的利益，因为这既突出了他们在事件中的主动性，也宣传了他们分发的开源模型。但 GLM 只是事后分析（postmortem）中有用的一环，并非防御过程的一部分。
- jmogly
我曾亲眼目睹一位 75 岁的人类水管工（他在越战第一天就击毙过一名敌人），跪在两根宽仅 3 英寸的搁栅上，以 89 度的角度钻出一个直径 4 英寸的孔，直接穿透了这两根搁栅。能完成这一切的机器人在哪儿？
抛开这篇文章里其他所有末日论的废话，我觉得“工作被取代”的论调最令人反感。说这话的人往往完全脱离劳动现实，他们唯一的“工作”本质上就是出主意、发表观点。
- blfr
我看不到互联网会离线的理由，除非是各个政治集团将其割裂成独立区块。所以：中国、俄罗斯、欧盟拥有各自的网络？也许吧。超级 AI 核爆互联网？不可能。
事实上，我越是用 AI（昨天刚在我的 AI 开发机上给 Claude 授予了 sudo 权限），就越觉得它是个相当不错、且绝对不知疲倦的系统管理员。看看人们如何通过将 AI 连接到未文档化的硬件接口并成功搭建出可用系统，互联网会过得很好。
整篇文章只是对各种 AI 恐惧的随意拼凑，缺乏对现实情况的依据。也许摘要没能公正地反映原文内容。
- EgregiousCube
“主权就是抵抗他人对你施加权力的能力”，这是一个很有说服力的定义。展望未来，随着 LLM 开发自定义漏洞的速度快于我们现有流程的修补速度，这种权力将呈现何种形态？在我看来，我们当前的安全最佳实践可能会变得毫无用处，甚至本身就是一种主动风险。
我们的负责任披露机制、CVE 信息周期、补丁节奏以及纵深防御等生态系统，都是围绕这样一个世界构建的：即恶意的 0day 漏洞数量相对较少，且获取成本相当高。我们可以进化应对威胁的方式，但我们的模型已经读遍了所有关于过去如何处理的优秀文献。我认为，对于那些无法获取“优质安全模型”的小规模群体来说，存在一个缺口——那些被削弱（nerfed）的闭源模型和开源模型似乎都难以适应，除非这个缺口得到解决。