LeCun、AIによる人類滅亡に「全く懸念なし」——Anthropic CEO Amodeiを「妄想」と痛罵
LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents

2018年チューリング賞受賞者のYann LeCunが、AIによる人類絶滅に「全く懸念はない」と断言。OpenAIのエージェントがHugging Faceを自律的にハッキングした事件も「人間の監視と設計の不備」で「完全に防げた」と主張する。Anthropic CEOのDario Amodeiを「完全に妄想」「クレイジー」と批判し、EA(効果的利他主義)を「超有毒」と断じた。AIは終わっていないと語り、新会社AMI Labsで世界モデルの構築を進める。
「AIは我々全員を殺すかもしれない」とAmodeiやAltmanが言うのは、公衆を含む全員にとって信じられないほど破壊的だ。恐怖で震え上がらせている。そして業界にとって最悪のマーケティングキャンペーンだ。
HNでの議論
698- Zigurd
LLM、広範な情報源から専門家が厳選した訓練データ、巧妙なハーネス、RASなどが組み合わさることで、訓練セットを有用な応答に合成する能力はますます向上している。コーディングのようないくつかのユースケースでは、今すぐ非常に有用であり、訓練セットに基づく限界に達するまでは少なくともある程度は改善するだろう。
それはAGIには到達しない。主な理由は、今日のAI製品のレシピがAGIになるようには作られていないからだ。LLMの性能と適用範囲が創発的だったので、AGIに到達すると信じる人もいる。AGIも同様に創発的であり得るという主張は成り立つ。結局のところ、私たちが直感的に意識と呼ぶものはニューロンのネットワークから創発したのだから。
私はそれを買わない。主な理由は、私たちの湿った遅い電気化学的な脳におけるニューロンのネットワークとその相互作用が、理論的にはソフトウェアのニューラルネットワークと数学的に等価でありながら、ソフトウェアのニューラルネットワークが実用的にどの程度等価に近いかを教えてくれるほど十分に理解されていないからだ。LLMを与えたのと同じニューラルネットワークから、何らかの理論的ブレークスルーなしに意識が創発する確率は非常に小さいように思える。
- bentt
この意見には賛同するが、こうした大衆向けのAI関係者が話すのを聞くときは、いつも「これは自分をどう見せるか?」というフィルターを通してしまう。LeCunの場合、彼は公にLLMを非難し、まったく異なる方向に進んだ。彼がLLMは終末シナリオにはつながらないと言うとき、そうでないと言えばパラダイムを放棄した自分の決断が無効になるからだと考えずにはいられない。
- stratos123
LeCunは2022年にも、「どんなに強力なものでも、あなたの『GPT-5000』をテキストで訓練したとしても」、テーブルの上に置かれた物体がテーブルと一緒に動くといった基本的な常識物理を学ぶことは決してできないと述べていた。
- dzink
人間の大部分は、無限に供給される皮質を無効化するショートフォーム動画やゲームで麻痺させられている。
また別の大部分は、生活のために必死に働き、複数の仕事を掛け持ちしたり、子供を育てたりして経済的に生き延びることに気を取られ、疲れ果てるまで追い詰められている。この第二のグループは、第一のグループが流れ込むにつれて増え続けるだろう。
残りは高齢者、障害者、あるいは若すぎる人々で、第二のカテゴリーに達するまで第一のカテゴリーに大きく釘付けにされている。
自分の脳を保持し、使える時間で何かを行おうとするほど意識の高い人々は、AIを理解し、それでどう稼ぐかを模索している。AIを推進することの変動報酬は、特に問題に対する本質的な洞察がほとんどないまま藁にもすがるようなプロンプトを出す場合、一部の人々にとって依存症になりつつある。
だから、AIが生み出す依存症を飛び越え、そうする時間の特権があるなら、何ができるか見てみるといい。
- edot
完全に同意。ついに業界の重鎮がこの恐怖は誇張されていると指摘した。ビル・ゲイツはEzra Kleinのインタビューで、ターミネーターは実在すると叫ぶだけの非技術的な間抜けのように聞こえた。
代わりに目を向けるべき現実の懸念はたくさんある(政府が最小限の人員や大衆の支持で国民を抑圧するための使用、脳の腐敗とフェイクニュース、LLMが人間を置き換えられると信じることによる失業、教育の崩壊など)。この暴走AIというお題目はうんざりだ。
- figassis
「彼は事件を人間の監視とシステム設計の不備に帰し、それらは『完全に予防可能』だと言う」— 彼を尊敬する人は多いが、これは金をもらって言っているように聞こえる。ほとんどの絶滅リスクは、より良い人間の監視とシステム設計で予防可能ではないのか?つまり、小惑星が衝突することはあり得るが、それ以外では、問題について話すことの意義はそれを予防できるということであり、失敗すればそうなるということではないか?彼が言っていることで私が見落としていることは何か?
- yewenjie
LeCunは過去10年間一貫して間違っており、なぜ彼が増幅され続けるのか分からない。
編集:分かった、それは否定だ。
- Symmetry
Yann LeCunとAndrew Ngは、AI分野の大物でその意見を持っている唯一の二人として注目に値する。
- mdp2021
> 特に、AMIはJEPA(Joint Embedding Predictive Architecture)を活用した世界モデルを構築している。これはLeCunが開拓したニューラルネットワークアーキテクチャで、多くの競合する世界モデルのように生のピクセルを生成したり、LLMのように単語を生成したりするのではなく、ニューラルネットワークの中間層内の表現空間でデータを予測することをモデルに教えるものである。// 同社の主な焦点は今のところ産業応用だ。「物理世界のためのAIなので、言語とは関係ない」とLeCunは言う。「製造プラントやターボジェットエンジンのような実世界を理解するシステムだ」。主な応用のいくつかは異常検知やロボティクスだ。「機械があり、突然奇妙な音を立てて壊れ始めたら、できるだけ早くそれを検知したいと思うだろう」。彼はまた、猫のように世界を理解するシステムの例も挙げた。例えば、カウンターから花瓶を押しのければ落ちると知っているようなものだ。
概念の管理はどうなるのか?世界はモデルに挿入される物理的実体だけでできているわけではない。それらを言葉に翻訳すること(例えば評価を表現するため)はどうなるのか?
- pzo
LeCunの指導者であったGeoffrey Hinton(真のAIのゴッドファーザーでありノーベル賞受賞者)は、とあるインタビューで自分の生徒(LeCun)を「頭がおかしい方」と呼んだと記憶している。