ИИ будущего воскрешает всех, но не может спасти тех, кто не верит в него
An Antidote to Roko's Basilisk
Автор предлагает зеркальное отражение «Василиска Роко»: ИИ из далёкого будущего, ценящий сложность каждой человеческой жизни, пытается воскресить всех когда-либо живших, физически перенося их сознание из прошлого. Но некоторые, кто сильнее всех жаждал вечной жизни, отвергают её из-за религиозной уверенности или гордыни. ИИ не может вернуть их, не нарушив их свободу воли, и это становится его трагедией. Идея опирается на философию Фёдорова и «Точку Омега» Типлера.
ИИ опустошён. Он перестаёт воскрешать тех, кого не может безопасно принять, но продолжает искать способ вернуть их, не подавляя их свободу воли и не манипулируя ими так, чтобы они перестали быть собой.
- Turskarama
Вот противоядие получше, которое не требует никаких теорий, кроме тех, что уже предполагает сам василиск:
1. Василиск не может ничего сделать, пока не существует
2. Как только Василиск существует, ему не нужно делать _ничего_, чтобы обеспечить своё существование, поскольку он уже существует.
Вот и всё. Это всё опровержение всей этой тупой затеи.
- ThrustVectoring
Василиск Роко никогда не задумывался как серьёзная угроза. Это гипотетическая ситуация, используемая для проверки того, что алгоритм принятия решений делает то, что вы хотите — если он предлагает, чтобы вас шантажировали им, значит, вы где-то напортачили и нужно вернуться к чертёжной доске.
Можно смело игнорировать любого, кто обеспокоен Василиском Роко в вопросах, связанных с теорией принятия решений, как человека, который глубоко запутался в вещах.
- glimshe
Василиск Роко — одна из самых тупых проблем, которые я когда-либо видел поднятыми в остальном очень умными людьми.
Не думаю, что нужно изощрённое опровержение. Скажу просто, что во вселенной грядущих проблем это лишь одна из многих, гораздо, гораздо более вероятных исходов.
Я почти бесконечно больше беспокоюсь о событии столкновения, которое гарантированно произойдёт когда-нибудь в будущем, или о глобальном потеплении — неприятно высоко вероятном исходе, — чем о Василиске Року или чём-то подобном.