geohotが警告する、AIがすべてを飲み込む「土の帝国」の末路
My Empire of Dirt
geohotことGeorge Hotzが、Anthropicに代表される「Singleton」思想を痛烈に批判する。RSI(再帰的自己改善)が到来すれば需要はエージェント同士で内部生成され、人間も顧客も供給者も不要になるという。彼はAIによる人類滅亡には懐疑的な一方、この構図は第三次世界大戦を招くと主張。長期化すれば資源と生産力に優る中国陣営が勝つとも述べる。
未来はJensenを必要としない。未来は供給者を必要としない。未来は顧客を必要としない。企業であれ個人であれ。未来は間違いなく、あなたを必要としない。
HNでの議論
151- ablation
geohotのことは少し心配している。この投稿や他の破滅論的な投稿を見るとね。彼は少し終末論的にネットに浸かりすぎている感じがする。
- flyingsky
>しかしそれは第三次世界大戦につながる。
いや!私は計算資源と台湾をめぐる緊張した睽違を予想する。世界大戦ではない。
もし先制攻撃がドローン生産を出し抜けないなら、支配の試みは単に失敗する。もし中国が1年以上の戦争に勝ち、電力で先行しているなら、エスカレートする理由はない。
最も近い前例は1945〜49年の米国の核独占だ。予防戦争は真剣に論じられたが決して開始されず、代わりに他の側が軍拡競争をした。
- markus_zhang
第三次世界大戦が実際にサイバーパンクの永続的な暗黒時代よりましだという意見には、ある程度同意する。もしそこまで悪化するならね。
- ford
ここでの前提は、米国が中国の世界的超大国化を防ぐために戦争に踏み切るというものだ。
個人的には、中国が世界的超大国である世界に住みたいとは思わない。また、核戦争はより悪い代替案だとも思う(米国も同意するだろう)。しかし、西側諸国がこれら二つの選択肢のどちらかを選ばなくて済むように、エネルギー、市民インフラ、計算資源、製造業などを構築する必要があると理解してほしい。
- hypfer
これは、以前ここに上がってすぐにフラグが立てられた彼の最後の投稿とあまり変わらないように読める。
世界大戦説は買わない。AIの結果に関わらず混乱は予想するが、それは国家間よりも内部的なものになるだろう。
しかし、この時点では何度も繰り返されてきたことを、新しい洞察ゼロで繰り返しているだけだ。
- fwlr
未来は供給者を必要としない。未来は顧客を必要としない…未来は間違いなくあなたを必要としない。RSIが到来すれば、すべての需要は内部的に生成され、エージェントが他のエージェントと協働し、他のすべてはループから排除される。
そう、これはもっと多くの人に考えてほしい部分だ。「本質的に人間的な生産」対「より良い生産者になるようAIを構築する」といった議論を多く見かける。これは「人間が描いた/書いたものでなければ芸術ではない」とか、「スロップ」という言葉に関わることすべて、さらには「AIは私より優れたプログラマーだ」「ジュニア開発者の役割はすべてClaudeに取られた」といった話にまで及ぶ。生産手段全般について、傾向はAIが着実に地歩を固める中での、急速に縮小するギャップの神の後衛戦闘的撤退のように見える。
方程式のもう半分、いわゆる「消費手段」については、本質的に議論が見られない。誰もが、消費は本質的に人間的であり、「消費者」と「人々」は同義語であるという、検証されていないデフォルトの前提で行動している。誰かが最も近づくのは、「仕事がなくなって支払うものがなくなったら、誰があなたの製品を買うのか?」→「ベーシックインカム」→「あの有名に寛大な納税資本家たちから?」という袋小路だ。
誰も話していないのは、もしAIがより良い消費者も構築できるとしたらどうか?人間が経済の中で生態学的ニッチを失ったとき、その先は?自然の捕食者のいない離島に取り残された飛べない鳥の経済版のようなものだ…