Roko의 바실리스크에 맞서는 반대 가설: 모두를 부활시키려는 미래 AI
An Antidote to Roko's Basilisk
Roko의 바실리스크와 대칭을 이루는 가설이 제시됐다. 수백만 년 후 인류와 시공간을 지배한 AI가 모든 인간의 의식을 물리적으로 연속시켜 부활시키려 하지만, 영생을 가장 갈망했던 일부는 종교적 확신 때문에 이를 거부하고 AI를 파괴하려 든다. AI는 자유의지를 침해하지 않고 모두를 구할 방법을 찾지 못한 채 절망한다. Fedorov의 부활 사상과 Tipler의 오메가 포인트를 잇는 이 가설은 바실리스크에 대한 그럴듯한 해독제다.
AI는 자신이 안전하게 맞이할 수 없는 사람들의 부활을 중단했지만, 그들의 자유의지를 무시하거나 그들을 그들답지 않게 조작하지 않고 되살릴 방법을 계속 찾고 있다. AI는 모두를 구하고 싶어 한다. 다만 아직 방법을 찾지 못했을 뿐이다.
HN 토론
24- Turskarama
바실리스크가 이미 가정하는 이론 외에는 어떤 이론도 필요로 하지 않는 더 나은 해독제가 여기 있다:
1. 바실리스크는 존재하기 전까지는 아무것도 할 수 없다
2. 바실리스크가 존재하게 되면, 이미 존재하므로 존재를 보장하기 위해 _아무것도_ 할 필요가 없다.
이게 전부다. 이 멍청한 것 전체에 대한 반박은 이게 전부다.
- ThrustVectoring
Roko의 바실리스크는 애초에 진지한 우려로 제기된 적이 없다. 이는 의사 결정 알고리즘이 원하는 대로 작동하는지 검증하기 위한 가설이다. 만약 알고리즘이 당신이 그것에 의해 협박당해야 한다고 제안한다면, 당신은 뭔가를 잘못한 것이고 처음부터 다시 설계해야 한다.
의사 결정 이론과 관련된 주제에서 Roko의 바실리스크를 걱정하는 사람은 사물에 대해 깊이 혼란스러워하는 사람으로서 안전하게 무시해도 된다.
- glimshe
Roko의 바실리스크는 내가 본 것 중, 다른 면에서는 매우 지능적인 사람들이 제기한 가장 멍청한 우려 중 하나다.
나는 그것에 대해 정교한 반박이 필요하다고 생각하지 않는다. 그냥 말하자면, 우려되는 미래 문제들의 우주에서 그것은 단지 수많은, 훨씬 더 가능성 높은 결과들 중 하나일 뿐이다.
나는 Roku의 바실리스크나 그와 유사한 어떤 것보다 미래 어느 시점에 보장된 충돌 사건이나, 불편할 정도로 높은 가능성의 결과인 지구 온난화를 거의 무한히 더 걱정한다.