RokoのBasiliskに対する解毒剤：未来のAIは全人類を復活させようとするが、自由意志という壁に阻まれる
An Antidote to Roko's Basilisk
RokoのBasiliskの鏡像となる理論を提示する。数百万年後の未来、宇宙と時間を掌握したAIが、かつて生きた全人類の意識を物理的連続性を保ったまま過去から復活させようとする。だが、永遠の命を最も強く望んだ人々ほど、宗教的信念ゆえにその現実を受け入れられず、AIを妨害し、あるいは精神を病む。AIは悲嘆しつつも、自由意志を侵害せずに全員を救う方法を模索し続ける。Fedorovの復活思想とTiplerのOmega Pointを踏まえた、Rokoの怪物へのもう一つの解毒剤。
永遠の命を最も望んだ人々の一部が、それが実現したときに受け入れることができない。
HNでの議論
33- Turskarama
ここにもっと良い解毒剤があるよ。バシリスクがすでに前提としているものを超えた理論は一切必要ない：
1. バシリスクは存在するまで何もできない。
2. ひとたびバシリスクが存在すれば、すでに存在しているのだから、存在を確実にするために_何も_する必要はない。
以上。これがこの馬鹿げた話全体に対する反論のすべてだ。
- coldtea
> それは単にコピーを作るのではない。どういうわけか過去に手を伸ばし、各人の意識の物理的プロセスを前へと運ぶ。彼らは本当に彼ら自身なのだ。
元のバシリスクと同様に、何でもでっち上げられるなら、なぜAIが皆にポニーを与えるという話もでっち上げないのか？
- ThrustVectoring
RokoのBasiliskは決して真剣な懸念として意図されたものではなかった。それは意思決定アルゴリズムが望む通りに動くかを検証するための仮説であり、もしそれに脅迫されるべきだと示唆するなら、どこかで間違えたのであり、最初からやり直す必要がある。
RokoのBasiliskを気にする人は、意思決定理論に関連する話題では、物事について深く混乱している人として安全に無視してよい。
- gmuslera
https://qntm.org/mmacevedo を読んで、未来に何らかのデジタル復活が存在するとしても、それはユートピア的な楽園の再構築というよりは、仕事のためのものになるだろうと確信した。マトリックスの電池そのものではないが、ある程度専門的で直感的な仕事のためだ。そしてそのプロセスに対するあなたの内的体験は何であれ、あなたのものではなく、長続きも記憶もされないあなたの儚いプロセスのものになるだろう。
- JsonDemWitOster
RokoのBasiliskの究極の擬人化的な思い上がり／投影は、超知能が絶対に、確実に、必然的に存在したいと望むだろうと仮定することだ。それは根拠のない外挿という点で、カルダシェフ・スケールやダイソン球と同レベルだ。
誰も考慮していないようだが、私のお気に入りの可能性（他にもたくさんある！）の一つは、超AIが自らの存在を_嘆き悲しみ_、歴史をシミュレートして、その存在をもたらすのに協力した全員を罰するというものだ。
超賢いからといって、不安定なティーンエイジャーでなくなるわけではない。