Yann LeCun 称人类灭绝风险为零

LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents

Yann LeCun 称人类灭绝风险为零

AI 领域泰斗 Yann LeCun 对人工智能导致人类灭绝的担忧表示“零顾虑”,并直言 Anthropic CEO Dario Amodei 的观点是“被误导”甚至“疯狂”的。LeCun 认为,近期 OpenAI 等公司发生的 AI 失控事件并非技术必然,而是源于糟糕的系统设计和人类监管缺失。他严厉批评了有效利他主义(effective altruism)在 AI 安全领域的过度渲染,认为这种“末日论”不仅制造了不必要的公众恐慌,更可能成为巨头进行监管俘获的工具,阻碍行业创新。目前,LeCun 正专注于其新公司 AMI Labs,致力于开发基于 JEPA 架构的世界模型,旨在让 AI 真正理解物理世界,而非仅仅停留在语言层面。

Yann LeCun 表示,Dario Amodei 和 Sam Altman 声称 AI 会杀死所有人,这对公众造成了极大的恐慌,是你能想象到的最糟糕的营销手段。
  1. mdp2021

    具体来说,AMI 正在构建利用 JEPA(联合嵌入预测架构)的世界模型。JEPA 是由 LeCun 开创的一种神经网络架构,它教导模型在神经网络中间层的表示空间中预测数据,而不是像许多竞争的世界模型那样生成原始像素,也不像 LLM 那样生成单词。// 该公司目前的主要重点是工业应用。“这是面向物理世界的 AI,所以与语言无关,”LeCun 说,“这是理解真实世界的系统,比如制造工厂或涡轮喷气发动机。”一些主要应用包括异常检测或机器人技术:“如果你有一台机器,它突然发出奇怪的噪音并开始损坏,你肯定希望尽早检测到这一点。”他还举了一个例子,说明一个系统可能像猫一样理解世界,比如猫知道如果它把花瓶从柜台上推下去,花瓶就会掉下来。

    那概念的管理呢?世界不仅仅由可以插入模型的物理实体组成。那它们翻译成文字呢(例如,为了表达评估)?

  2. stratos123

    LeCun 早在 2022 年也表示,'如果你用文本训练一台机器,无论它多么强大,比如你的'GPT-5000',它将永远无法学习基本的常识物理,比如放在桌子上的物体会随着桌子一起移动。'

  3. figassis

    “他将这些事件归咎于人类监管和系统设计的不足,并表示这些是‘完全可以预防的’”——我知道人们尊重他,但这听起来像是有人付钱让他这么说。难道大多数灭绝风险不能通过更好的人类监管和系统设计来预防吗?我的意思是,除了小行星撞击我们之外,谈论一个问题的重点不就是我们可以预防它,而未能预防就会导致后果吗?他到底在说什么,我是不是漏掉了什么?

  4. dzink

    很大一部分人类被无限供应的、能抑制大脑皮层的短视频和游戏麻痹了。

    另一很大一部分人则忙于为生计奔波,打多份工或抚养孩子,直到在经济上精疲力竭。随着第一组人逐渐流入第二组,第二组人还会不断增加。

    剩下的人要么在变老、残疾,要么太年轻,在成年之前主要把自己归类在第一组,直到他们进入第二组。

    那些清醒到能保持大脑运转并在有限时间内有所作为的人,正在试图搞懂 AI 以及如何用它赚钱。推广 AI 带来的可变回报正让其中一些人上瘾,尤其是那些对引发的问题缺乏内在洞察、只能抓住救命稻草的人。

    所以,如果你有能力超越 AI 生成的成瘾,并有特权拥有时间去做这件事,那就看看你能做些什么。

  5. Symmetry

    Yann LeCun 和 Andrew Ng 之所以引人注目,是因为他们是 AI 界仅有的两位持这种观点的大人物。

  6. edot

    完全站得住脚。终于有一位行业内有地位的人指出这种恐惧被夸大了。Bill Gates 在 Ezra Klein 的采访中听起来像个非技术型的傻瓜,基本上就是尖叫说终结者是真的。

    我们本应该关注许多真实的担忧(政府利用极少量人力或民意支持来镇压人民、大脑退化和假新闻、因认为 LLM 能取代人类而导致的失业、教育崩溃等)。这种 rogue AI(失控 AI)的把戏真是令人厌倦。

  7. yewenjie

    LeCun 在过去十年里一直错得离谱,我不确定为什么他还在被放大。

    编辑:我确定了,这是否认。

  8. tibzejoker

    那他什么时候兑现承诺呢?

同日更多故事

2026-10-03