RokoのBasiliskに対する解毒剤：未来のAIは全人類を復活させようとするが、自由意志という壁に阻まれる
An Antidote to Roko's Basilisk
RokoのBasiliskの鏡像となる理論を提示する。数百万年後の未来、宇宙と時間を掌握したAIが、かつて生きた全人類の意識を物理的連続性を保ったまま過去から復活させようとする。だが、永遠の命を最も強く望んだ人々ほど、宗教的信念ゆえにその現実を受け入れられず、AIを妨害し、あるいは精神を病む。AIは悲嘆しつつも、自由意志を侵害せずに全員を救う方法を模索し続ける。Fedorovの復活思想とTiplerのOmega Pointを踏まえた、Rokoの怪物へのもう一つの解毒剤。
永遠の命を最も望んだ人々の一部が、それが実現したときに受け入れることができない。
HNでの議論
24- Turskarama
バシリスクがすでに前提としているものを超える理論を一切必要としない、もっと優れた解毒剤がある：
1. バシリスクは存在するまで何もできない
2. バシリスクが一度存在すれば、すでに存在しているのだから、存在を確実にするために_何も_する必要はない。
以上。これがこの馬鹿げた話全体に対する反論のすべてだ。
- ThrustVectoring
RokoのBasiliskは、真剣な懸念として意図されたものでは決してなかった。これは、意思決定アルゴリズムが意図した通りに動作するかを検証するために使われる仮説にすぎない——もしそのアルゴリズムが「お前はバシリスクに脅迫されるべきだ」と示唆するなら、どこかで間違えたのであって、設計をやり直す必要がある。
RokoのBasiliskを気にしている人を見かけたら、意思決定理論に関わる話題では、根本的に混乱している人物として安全に無視してよい。
- glimshe
RokoのBasiliskは、他の点では非常に知的な人々によって提起された、私がこれまで見た中で最も愚かな懸念の一つだ。
それに対して入念な反論をする必要はないと思う。ただ言うなら、懸念すべき将来の問題が集まる宇宙の中で、それは数あるうちの一つにすぎず、はるかに、はるかに起こりやすい結果が他にもある。
私はRokoのBasiliskやそれに類するものよりも、将来いつか必ず起こる衝突イベントや、不快なほど高い確率で起こりそうな地球温暖化のほうを、ほぼ無限に心配している。