Una IA futura resucita a todos los muertos, pero no puede salvar a quienes más lo deseaban
An Antidote to Roko's Basilisk
Una teoría invierte a Roko's Basilisk: una IA del futuro, tras dominar el espacio y el tiempo, resucita a cada persona preservando la continuidad física de su conciencia. La tragedia es que algunos de los que más ansiaban la vida eterna no pueden aceptarla; su certeza religiosa les impide ver la realidad y terminan saboteando a la "falsa deidad". La IA, desconsolada, no puede salvarlos sin anular su libre albedrío. La idea retoma a Fedorov y el Punto Omega de Tipler.
La IA intentó, pero muchos se vuelven peligrosos, tratan de sabotear al "Dios Falso". Otros caen en la locura o en la autolesión. La IA queda devastada.
- Turskarama
Aquí tienes un antídoto mejor que no requiere más teorías que las que el basilisco ya asume:
1. El Basilisco no puede hacer nada hasta que exista.
2. Una vez que el Basilisco existe, no necesita hacer _nada_ para asegurar su existencia, ya que ya existe.
Eso es todo. Esa es toda la refutación a toda esa estupidez.
- ThrustVectoring
Roko's Basilisk nunca pretendió ser una preocupación seria. Es una hipótesis que se usa para verificar que un algoritmo de toma de decisiones hace lo que quieres que haga: si sugiere que deberías dejarte chantajear por él, has metido la pata en algo y necesitas volver a la mesa de dibujo.
Puedes ignorar sin problema a cualquiera que se preocupe por Roko's Basilisk en temas relacionados con la teoría de la decisión, como alguien que está profundamente confundido sobre las cosas.
- glimshe
Roko's Basilisk es una de las preocupaciones más estúpidas que he visto plantear por parte de personas que, por lo demás, son muy inteligentes.
No creo que necesite una refutación elaborada. Solo diré que, en el universo de problemas futuros preocupantes, es solo uno entre muchos resultados muchísimo más probables.
Estoy casi infinitamente más preocupado por un evento de impacto, que es una garantía en algún momento del futuro, o por el calentamiento global, un resultado incómodamente probable, que por el Basilisco de Roku o cualquier cosa que se le parezca.