LeCun、AIによる人類滅亡に「全く懸念なし」——Anthropic CEO Amodeiを「妄想」と痛罵
LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents
2018年チューリング賞受賞者のYann LeCunが、AIによる人類絶滅に「全く懸念はない」と断言。OpenAIのエージェントがHugging Faceを自律的にハッキングした事件も「人間の監視と設計の不備」で「完全に防げた」と主張する。Anthropic CEOのDario Amodeiを「完全に妄想」「クレイジー」と批判し、EA（効果的利他主義）を「超有毒」と断じた。AIは終わっていないと語り、新会社AMI Labsで世界モデルの構築を進める。
「AIは我々全員を殺すかもしれない」とAmodeiやAltmanが言うのは、公衆を含む全員にとって信じられないほど破壊的だ。恐怖で震え上がらせている。そして業界にとって最悪のマーケティングキャンペーンだ。
HNでの議論
98- lukewarm707
https://trace.manifund.org/ によると、合計2,846,125,859米ドルが「AI安全性」の大義に送金されており、その多くがAIの意識やp(doom)に関係している。
この「安全性」の結果は、AIへの公的アクセスを制限し、業界にアクセス独占を与えることだ。これはAI非営利産業複合体が、特にAnthropicにおいて、AIの創造者、解釈者、安全規制者として独占権力を積極的に集中させている。
リストにある28億ドルの多くは、AnthropicとEAから間接的に出ている。AnthropicのシリーズAで1億2500万ドルを出資した4人のうち3人は、今やAnthropicからの1000倍のリターンをAI「安全性」に注ぎ込んでいる。一部はFTX/Alamedaからで、シリーズBの86%を投資した。
Dustin Moskovitz：Facebook/Asana/AnthropicシリーズA、EA Good Venturesに出資、Coefficient Givingに移管、その後15億ドルをAI安全性に。Anthropicの5億ドルを未知の財団に。資金提供：Resolution（アラインメント研究）に1億6000万ドル、Epoch AI（AIの軌道を調査）に9300万ドル、Redwood Research（oaiレポート）に6300万ドル、MATS（EAタイプのアラインメントとセキュリティ研究者）に6700万ドル、Institute for AI Policy and Strategy、Fund for Alignment Research、Kairos（AI安全性のための人材インフラ構築）に5300万ドル、Bluedot（オンライン安全コース）に3200万ドル、MIRI（Yudkowsky）に1500万ドル。
Jaan Tallinn：シリーズAを主導、現在Anthropicに100億ドル。Survival and Flourishing Fundに1億9900万ドル（85%）を出資、その後AI安全性に1億6100万ドル、うちlightcone（Lesswrong、Lighthouse）に1400万ドル。BERI（存在リスク）に1000万ドル、Pali […]
- dzink
人間の大部分は、皮質を無効化するショートフォーム動画とゲームの無限供給で鎮静化されている。
また別の大部分は、生活のために必死に働き、複数の仕事を掛け持ちしたり、子供を育てたりして、金銭的に生き残るために疲れ果てるまで忙殺されている。この第二のグループは、第一のグループがそこに流れ込むにつれて増え続けるだろう。
残りは高齢者、障害者、あるいは若すぎる者で、第二のカテゴリーに達するまで第一のカテゴリーに大きく留まっている。
自分の脳を保持し、使える時間で何かをするのに十分な意識を持つ人々は、AIを理解し、それでどう稼ぐかを模索している。AIを推進する可変報酬は、一部の人々にとって依存症になりつつあり、特に問題に対する本質的な洞察がほとんどないまま藁にもすがる思いでいる場合はなおさらだ。
だから、AIが生み出す依存症の上を飛び越え、そうする時間という特権があるなら、何ができるか見てみよう。
- edot
完全に同意。ついに業界の重鎮が、この恐怖全体が誇張されていると指摘した。Bill GatesはEzra Kleinのインタビューで、非技術的な間抜けのように聞こえ、基本的にターミネーターは実在すると叫んでいただけだった。
代わりに注目すべき本当の懸念はたくさんある（最小限の人員や大衆の支持で国民を抑圧するための政府の利用、脳腐敗とフェイクニュース、LLMが人間を代替できるという信念による失業、教育の崩壊など）。この暴走AIというお決まりの話はうんざりだ。
- wewewedxfgdf
人類全体がどうやって絶滅しうるのか、正確に説明してくれ。
馬鹿げている——少し考えれば、それが全く不可能だと誰でも気づく。
一般の人々や政治家はAIを理解していないので、理性をオフにし、自分たちには理解できない超信じられない魔法の力のようなものが全人類を破壊しうると想定する。
人間でさえ——人類への真のリスク——全人類を破壊することは、たとえ試みてもできなかった。もっともらしいシナリオは存在しない。
気候変動や核戦争、生物兵器——最も被害の大きいメカニズムでさえ——地球上の人口の一部を減らすだけだろう。
そしてスカイネットや自己複製ロボット、ターミネーターの話なら——頼むから、大人になれ。
- OgsyedIE
決して超えられないかもしれない、あるいは超えられるかもしれない認知的なものを無視しても、人間は手足や指に関して、生物学的進化が何百万年もかけて達成した多くの効率性と耐久性の進歩を保持しており、それはあるニッチでは最も高価な種類のロボット工学に匹敵する成果だ。
完全に悪意があり利己的な乗っ取りという仮定でも、彼らは一部の人間を維持するだろう。人間の繁殖集団を維持し、他の方法では自動化が経済的に不合理な様々なタスク——多くは閉鎖空間を伴うかもしれない——のためのサイバネティック強化された技術労働者を作るための原材料として使うために。
そしてこの「コンバイン」シナリオは、もしその参照がわかるならだが、彼らが乗っ取った場合にのみ起こる。彼らがそうするかどうかは誰にもわからない。