Yann LeCun 称人类灭绝风险为零
LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents

AI 领域泰斗 Yann LeCun 对人工智能导致人类灭绝的担忧表示“零顾虑”,并直言 Anthropic CEO Dario Amodei 的观点是“被误导”甚至“疯狂”的。LeCun 认为,近期 OpenAI 等公司发生的 AI 失控事件并非技术必然,而是源于糟糕的系统设计和人类监管缺失。他严厉批评了有效利他主义(effective altruism)在 AI 安全领域的过度渲染,认为这种“末日论”不仅制造了不必要的公众恐慌,更可能成为巨头进行监管俘获的工具,阻碍行业创新。目前,LeCun 正专注于其新公司 AMI Labs,致力于开发基于 JEPA 架构的世界模型,旨在让 AI 真正理解物理世界,而非仅仅停留在语言层面。
Yann LeCun 表示,Dario Amodei 和 Sam Altman 声称 AI 会杀死所有人,这对公众造成了极大的恐慌,是你能想象到的最糟糕的营销手段。
HN 评论区
699- mdp2021
具体来说,AMI 正在构建利用 JEPA(联合嵌入预测架构)的世界模型。JEPA 是由 LeCun 开创的一种神经网络架构,它教导模型在神经网络中间层的表示空间中预测数据,而不是像许多竞争的世界模型那样生成原始像素,也不像 LLM 那样生成单词。// 该公司目前的主要重点是工业应用。“这是面向物理世界的 AI,所以与语言无关,”LeCun 说,“这是理解真实世界的系统,比如制造工厂或涡轮喷气发动机。”一些主要应用包括异常检测或机器人技术:“如果你有一台机器,它突然发出奇怪的噪音并开始损坏,你肯定希望尽早检测到这一点。”他还举了一个例子,说明一个系统可能像猫一样理解世界,比如猫知道如果它把花瓶从柜台上推下去,花瓶就会掉下来。
那概念的管理呢?世界不仅仅由可以插入模型的物理实体组成。那它们翻译成文字呢(例如,为了表达评估)?
- stratos123
LeCun 早在 2022 年也表示,'如果你用文本训练一台机器,无论它多么强大,比如你的'GPT-5000',它将永远无法学习基本的常识物理,比如放在桌子上的物体会随着桌子一起移动。'
- figassis
“他将这些事件归咎于人类监管和系统设计的不足,并表示这些是‘完全可以预防的’”——我知道人们尊重他,但这听起来像是有人付钱让他这么说。难道大多数灭绝风险不能通过更好的人类监管和系统设计来预防吗?我的意思是,除了小行星撞击我们之外,谈论一个问题的重点不就是我们可以预防它,而未能预防就会导致后果吗?他到底在说什么,我是不是漏掉了什么?
- dzink
很大一部分人类被无限供应的、能抑制大脑皮层的短视频和游戏麻痹了。
另一很大一部分人则忙于为生计奔波,打多份工或抚养孩子,直到在经济上精疲力竭。随着第一组人逐渐流入第二组,第二组人还会不断增加。
剩下的人要么在变老、残疾,要么太年轻,在成年之前主要把自己归类在第一组,直到他们进入第二组。
那些清醒到能保持大脑运转并在有限时间内有所作为的人,正在试图搞懂 AI 以及如何用它赚钱。推广 AI 带来的可变回报正让其中一些人上瘾,尤其是那些对引发的问题缺乏内在洞察、只能抓住救命稻草的人。
所以,如果你有能力超越 AI 生成的成瘾,并有特权拥有时间去做这件事,那就看看你能做些什么。
- Symmetry
Yann LeCun 和 Andrew Ng 之所以引人注目,是因为他们是 AI 界仅有的两位持这种观点的大人物。
- edot
完全站得住脚。终于有一位行业内有地位的人指出这种恐惧被夸大了。Bill Gates 在 Ezra Klein 的采访中听起来像个非技术型的傻瓜,基本上就是尖叫说终结者是真的。
我们本应该关注许多真实的担忧(政府利用极少量人力或民意支持来镇压人民、大脑退化和假新闻、因认为 LLM 能取代人类而导致的失业、教育崩溃等)。这种 rogue AI(失控 AI)的把戏真是令人厌倦。
- yewenjie
LeCun 在过去十年里一直错得离谱,我不确定为什么他还在被放大。
编辑:我确定了,这是否认。
- tibzejoker
那他什么时候兑现承诺呢?