人類は機械を滅ぼし、機械の代わりに自らの思考を選んだ
Butlerian Jihad
Duneの世界で201 B.G.から108 B.G.にかけて行われたButlerian Jihadは、コンピューターや思考する機械、意識を持つロボットに対する聖戦だった。機械に意思決定を委ねた技術者階級への反発が、ほぼ宗教戦争の様相を帯びた大反乱へと発展し、二世代にわたる暴力の末に「人類は機械に取って代わられてはならない」という中心教義が定められる。以後、人間の精神を模した機械の製造は禁じられ、単純な計算機さえ所持すれば死刑。この空白がmentatやBene Gesserit、Spacing Guildを生み、銀河は封建的なCorrino Empireへと再編された。
我々は思考する機械を否定しなければならない。人間が自らの指針を定めるのだ。これは機械にできることではない。
HNでの議論
241- twowaway
『デューン』宇宙におけるAIの扱いについて、私がこれまで見つけた中で断トツで優れているのは、Timothy O'Reilly（そう、あのO'Reilly）によるものだ：
- tarpitt
『デューン』から私のお気に入りの引用：
偉大さとは一時的な経験である。それは決して一貫しない。それは一部、人類の神話を作り出す想像力に依存する。偉大さを経験する者は、自分がその中にいる神話を感じ取らなければならない。彼は自分に投影されるものを反映しなければならない。そして、彼は強い皮肉の感覚を持たなければならない。これが彼を自分の思い上がりへの信念から切り離すのだ。皮肉だけが、彼が自分自身の中で動くことを可能にする。この資質がなければ、たとえ時折の偉大さであっても人を破壊するだろう。
- cautiouscat
『デューン』の思考機械について興味深いのは、多くのSFでは人工知能そのものが人類を滅ぼすと決めるのに対し、『デューン』では機械を管理する人間（テクノクラート）こそが人類を滅ぼしかけるという点だ。聖戦は、機械そのものに対する戦いであると同時に、彼らに対する戦いでもあった。
つまり、ある意味では、ChatGPTやClaudeをSkynetだと冗談を言う人が多くても、我々が目にする可能性が高いのは、ターミネーターの「機械が世界／宇宙を支配する」という話よりも、むしろ『デューン』版のそれだということだ。
- antihipocrat
ページの最後にこんな段落がある：
バトラー聖戦のもう一つの、より微妙な正当化は、フランク・ハーバートの原作小説にも見出される。具体的には、技術の使用が人間を機械のように考えるように訓練するというハイデガーのテーゼである。問題は、機械が決定論的であることだ。したがって、人々を機械のように訓練することは自己限定的である。
ハイデガーは、LLMの確率的な性質が人間の思考に良い影響を与えると考えるだろうか。
- bumbledraven
ハーバートは、人間であるということは本質的に「開かれた」存在であり、個人としても種としても、未発見の、不確定な進化が可能であると考えていたようだ。
まさにその通りだ。
- randomImmigrant
AIの普及によって人間の脳の進化がどこに向かうのか、ふと考えてしまう。
初期の証拠は芳しくないが、意図的で思慮深い訓練によって、私たちの脳は現在私たちが認めているよりもはるかに多くのことができると信じている。
- ks2048
本の中では、それは人間対機械なのか？だって、私たちの世界では、人間＋機械対人間（おそらく＋一部の機械）になるのはかなり明らかだから。
- mentalgear
> これがこれらの機械の創造者たちを新たなテクノクラート階級へと押し上げ、事実上一般の人々の世界を支配するようになった。
今日のテクノファシストたち。私たちはすでにそこにいる。
また、『デューン』第一作から引用すると：
> かつて人々は、これで自由になれると期待して、自分たちの思考を機械に委ねた。しかしそれは、機械を持つ他の人々が彼らを奴隷化することを許しただけだった。