AIの終末論を信じるエリートたちの正体
Sex, AI, and the Apocalypse
2026年、Anthropicの研究者Jacob Coxonが「AIは10年以内に人類を滅ぼすと本気で信じている」と告発して退社し、1億回以上閲覧された。同僚のEvan Hubingerも10分の1以上の確率で人類滅亡があり得ると認め、議会やメディアが騒然。しかしこの終末論の源流は、25年前に生まれたあるインターネット・サブカルチャーにある。著者は、そのコミュニティがシリコンバレーのAIラボや安全機関の中枢を占め、独自の終末観と文化を形成してきた過程を追う。
「AIを構築している人々は、今世紀末までにAIが我々全員を殺す可能性があると真剣に信じている。これはマーケティングの誇張ではない。」
HNでの議論
232- throwaway13337
AIについてどう考えるかという枠組みは、実に均質な人々の集まりによって育まれてきた。こうした人々は、あらゆるサブカルチャーに属する人と同じく、ほぼ間違いなく集団思考に陥りやすい。
その集団をそのまま集団として見ることが極めて重要だ。何千もの個々の視点ではなく、同じものを読み、同じ人々と話し、似たように考えることで暗黙のうちに報われている、つながり／足並みの揃った人々の合唱なのだ。
彼らの多くはHNを読んでいて、私がこう書いたことに不快感を覚えているだろう。しかし、人間は文化に囲まれるとこの欠陥を抱えてしまうというのは避けられない。
AIを絶えず核兵器と比較しない別の宇宙もある。その世界のP(doom)はもっと低いと私は賭ける。
- vinkelhake
奇妙なことが起きているとは言わないが、この記事は明らかに連座制をやりすぎている。新反動主義者、ポリアモリーの合理主義者、終末論的AI研究者、そしてZiziansを一つの大きな網に放り込んでいる。
- arcticfox
警告してくる人々は変わり者か関与しているから信用できない、というこの一連の論法は、ゼロから始めて、現在起きているとして知られていることを見て、破局へとまっすぐ線を引けばいいのに、実に奇妙な角度だ。
最初の核実験を見ながら、Oppenheimerとその仲間が誇張していると懸念するようなものだ。
- cameldrv
状況が奇妙になると、奇妙な者たちが本気を出す。かつて起きたことのない物事について推論する能力／気質を持つ人はほとんどいない。持っている人は奇妙な心理プロファイルをしている。たいていは無視していい。たまに、無視できなくなる。
- walrus01
ああ、またこれか。合理主義のウサギの穴に本当に深く入り込んだ人々の個人的な歴史に本気で直面したいなら、Ziziansに関する「Behind the Bastards」ポッドキャストのエピソードを聴くことを勧める。そう、ハリーポッターのファンフィクションがそこで大きく取り上げられている。
https://www.google.com/search?client=firefox-b-d&q=behind+th...
- Animats
その集団のセックスの部分に会いたければ、Slutconが一週間後にある[1]。
チケットは3,300ドルから10,000ドル。これはAellaの創作物だ。カリフォルニア州バークレーで開催され、主催者と、親記事で言及されているバークレーの「rat」コミュニティとの間にはかなりの重なりがある。
- raincole
著者はYudkowskyと彼のHPファンフィクションに対して非常に奇妙で強い執着を抱いており、AI企業に対する世間の憎悪を彼を嘲笑う機会と捉えたようだ。
- alexpotato
初めてMatrixを観たときのことを覚えている。
彼らはコンパニオン作品としてAnimatrixを作った。
AnimatrixのThe Second Renaissance [0]のエピソードは、Matrixの世界で機械がどのように権力を握ったかを語っている。当時は映画の枠内で筋が通っていた。
このAIに関する議論の多くを読んでいると、これは時間を遡って送られたドキュメンタリーのように感じられる。
https://www.youtube.com/playlist?list=PLUouZgbTp2o_7LK7zqubt...