AIの終末論は「誇大広告」である
For AI leaders Doom is a form of hype
AnthropicのEvan Hubingerが「10年以内にAIが人類を滅ぼす確率は10%以上」と発言し、OpenAIとAnthropicを辞めたJacob Coxonも「両社は無責任に超知能を競っている」と告発した。しかし著者は、こうした終末論が形は黙示録的、構造は偽善的、効果は戦略的で、本当に対処すべきAIの害を覆い隠していると論じる。
私の不満は、これらの発言が警告的であることではない。それは黙示録的な形式を持ち、構造的に偽善的で、戦略的に生産的な効果を生み、私たちが議論できるほとんどすべての他の事柄を追い出しているということだ。
HNでの議論
181- NoahZuniga
> 私は、これらの人々が私的な、心理的な意味で誠実であることを疑ってはいない……。メディア研究者として私が興味があるのは、Hubingerが自分の数字を信じているかどうかではない。私が興味があるのは、この種の発言が世界で何をするかだ……。私の不満は、これらの発言が警告的であることではない。それは、その形式が終末論的であり、構造が偽善的であり、効果が戦略的に生産的であること——そして、私たちが議論できる他のほとんどすべてを追い出してしまうことだ。
公の場で破滅を心配している人々が誠実だと思うと言い、その心配が妥当かどうかについては何も言わず、それでもそれが誇大広告だと文句を言うのは奇妙だ。
つまり、それが真実なら誇大広告にはなり得ない
- atleastoptimal
この記事はClaudeが書いたように読める。
また、Anthropicの人々はAIが破滅につながる可能性があると本気で信じている。それが彼らが会社を始めた理由であり、彼らだけがデジタル神々の管理者になれると信じている。あなたが信じるかどうかに関わらず、彼らは本気で信じており、利益が保証されないときに自らの製品に恐怖、不安、疑念を自発的に撒くことはないだろう。
これは私が「AIラボ不満詩」と呼ぶジャンルの作品の一例であり、AIラボに対して膨大な批判が浴びせられ、経営陣に対する具体的な人身攻撃が行われ、AIリスクに関する彼らの議論の核心を避けている。
- mrinterweb
AI破滅ナラティブのタイミングは、これ以上ないほど疑わしい。中国のラボは、フロンティアモデルのすぐ後ろに迫るオープンモデルをリリースしている。AnthropicとOpenAIは、これらのフロンティアクラスのオープンウェイトモデルが、推論をコモディティ化し、最高のモデルを最も安く速く提供できるプロバイダーが勝つという状況に変えることで、彼らの評価を脅かす可能性があることを知っている。同様の結果に対して100万トークンあたり1ドル未満で支払えるのに、100万トークンあたり50ドルを払う人はほとんどいないだろう。私の意見では、AnthropicとOpenAIへの莫大な投資を投資家が回収できる見込みはほとんどない。
- apsec112
この記事が引用している情報源は非常に時代遅れになっており、著者はそれに気づいていないようだ。
「しかし、ナノテクノロジーで起こったように、『AI』の販売から風が抜けつつあるようだ。一部の研究者は、我々が新たな『AIの冬』、つまりこの分野への資金が減少する時期、あるいは少なくとも技術への熱狂が薄れ期待が現実に戻る『AIの秋』に入りつつあるかもしれないと示唆している。」（2021年に書かれた！引用されたLee VinselのMedium記事より）
「ChatGPTは強化されたオートコンプリートに過ぎない。ではなぜこんなに多くの人がそれが実際に『理解』し『推論』していると確信しているのか？」— 引用されたEmily M. Benderの著書、昨年書かれたもの。
- swingboy
どこのラボの人でも匿名で、リアルタイムの重み変更を実現している、あるいは極めて近いところにいて、しかも他のすべてのラボが使っているのと同じアーキテクチャ（トランスフォーマー）を使い続けていると確認できる人はいますか？
- thenthenthen
破滅はすでにここにある。ただ均等に分配されていないだけだ。
- carodgers
これらのモデルのベンチマークを設計し実行するために相当な努力が払われてきた。彼らがもう報告しなくなったものを知っているか？チェスのELOだ。
ワットあたりで言えば、これらのモデルはすべてStockfishに負ける。問題の知能がチェスをプレイするのに十分な推論や計画ができないのに、『暴走した超知能』を恐れる必要があるシナリオなどあり得ない。
LeCunのアプローチが正しい。注目を集めようとする破滅論者たちを容赦なく嘲笑しよう。
- AJ007
最初にOpenAIにAI研究者を引き付けるために必要だったメッセージング、Anthropicへの流出、そしてGoogleやMetaなどがトップ研究者を採用し維持することに失敗する理由を考えてみよう。これらすべてをAnthropicと（以前は非営利だった）OpenAIの巨額の評価額と照らし合わせると、すべてが『邪悪になるな』のように聞こえ始める。これらの人々は本当はこれを信じていなかったのだろうか？（研究者のことを指しているのではない）