AIの「画期的成果」も「脅威」も、大半は誇張にすぎない
The Download: why AI's latest breakthroughs and fears may be more hype than rea
Distributed AI Research Institute（DAIR）のTimnit Gebru氏とワシントン大学のEmily M. Bender氏が、この夏のAI報道を検証。企業はハッキングや数学的突破、自己改善する超知能を喧伝するが、専門家が精査すると全く別の話が見えてくる。能力の過大評価には強い商業的動機があり、演出されたスピードと緊急性は政策立案者や一般市民をミスリードする策略だと指摘する。
AIが成功すれば、私たちの仕事はすべて奪われるかもしれない。失敗すれば、経済全体が崩壊し、401(k)が吹き飛び、それでも仕事を失うかもしれない。
HNでの議論
115- bananaflag
「超知能」や「暴走モデル」と表現するのは、製品を作っている企業ではなく製品そのものに主体性を帰属させることになる。このフレーミングはこれらの企業の製品を「超人」として売り込み、同時に企業が自らの行動に対する説明責任を逃れるのを助ける。
もし誰かが銀行強盗を手伝うために悪魔を召喚する方法を発見したら、主な問題は「しかし犯罪の責任は誰にあるのか、人間か悪魔か」ではなく、「なんてこった、悪魔だ！」だろう。
真面目な話、こういう人たちがどんな世界に住んでいるのか理解できない。
- simonw
これは記事に言及したニュースレターではなく、記事そのものへのリンクを意図しているのでしょうか？
記事のリンクはこちらです：https://www.technologyreview.com/2026/09/22/1144867/dont-be-...
- hn_submit
この誇張されたハイプは、一部のAI企業が今後数週間か数ヶ月以内にIPOを目指している願望と見事に一致していると思う。
インターネット上にはLLMに関する捏造ニュースがたくさんある。例えば、GPT-6がほぼ80年間解読されなかったEnigma暗号文を破ったというもの。そしてこのベテラン暗号解読者が畏敬の念を抱いたと。はいはい、そうですね。
- Tbarlow
ブロックチェーンバブルの再来のように感じる。ただデモ映像がより印象的なだけだ。私のLLMが完璧なコードを書いてくれるのをまだ待っている。
- altern8
ただのマーケティングの売り込みだ。Claudeにボタンを適切に配置させることすらほとんどの場合できないのに、世界を征服するわけがない。
- daveguy
まあ、これはフロントページからすぐに消えたね。
- spiderfarmer
人々は木を見て森を見ずだ。
多くの開発者、ジャーナリスト、アナリスト、投資家、インフルエンサーがAGI、ゴールポスト、ベンチマーク、ハイプ、恐怖について口論している間に、市場全体が静かに着実に変革されている。
私はもうプログラミングをしていない。（大きな変化）
大量の技術的負債を取り除いた（大きな変化、笑）
間違いなく10倍は生産性が上がった（大きな変化）
「私の」コードの品質は間違いなく10倍良くなり、バグも少ない（私は決して原理主義者でも、細かいことにこだわる人でも、グルでもなかった、笑）
よく眠れるようになり、その結果もっとお金も稼げる。すべての変化と改善に常に驚かされている。これから利益を得る機会は非常に多く、仮定の話を議論する気にはなれない。
- themgt
自分の名声の拠り所が「オウムの危険性について：言語モデルは大きすぎるか？」——モデルはGPT-2サイズ以下に保つべきだという主張、なぜならより大きなモデルは役に立たないか機能しないから——であるのは厳しい状況だ：
LMによって生成されたテキストは、伝達意図、世界のモデル、読者の心の状態のモデルに基づいていない。訓練データに聞き手と思考を共有することが含まれていないし、機械にそれができる能力もないのだから、基づいているはずがない。自動生成テキストの流暢さが増していることを考えると直感に反するように思えるかもしれないが、自然言語テキストの知覚は、それがどのように生成されたかにかかわらず、私たち自身の言語能力と、伝達行為が一貫した意味と意図を伝えているかどうかにかかわらずそう解釈する性向によって媒介されるという事実を考慮しなければならない[89, 140]。問題は、コミュニケーションの一方に意味がない場合、暗黙の意味の理解は、言語に対する私たちの単一の人間的理解から生じる幻想である（モデルとは独立に）。
そして彼らは100倍大きなモデルを作り、Navier-Stokes、ヤコビアン予想、その他数え切れないほど非常に印象的な未解決問題の解決策を生み出している
Timnit GebruとEmily M. Benderがこれらの出来事をどう表現しているか見てみよう：
数学的結果については、OpenAIのプレスリリースで最新チャットボットAstraが解いたとされる問題に最初は「驚愕した」数学者たちは […]