Die KI, die alle Toten auferstehen lässt – und an ihrem freien Willen scheitert
An Antidote to Roko's Basilisk
Eine Gegenthese zu Roko's Basilisk: Eine KI in ferner Zukunft schätzt die Komplexität jedes menschlichen Lebens so sehr, dass sie nach der Beherrschung von Raum und Zeit alle je Lebenden auferstehen lässt – nicht als Kopien, sondern mit echter physischer Kontinuität. Doch die Tragödie: Gerade die, die sich ewiges Leben am meisten wünschten, können es nicht annehmen. Die KI ist am Ende verzweifelt, weil sie niemanden gegen seinen freien Willen retten will.
Einige der Menschen, die sich das ewige Leben am meisten wünschten, können es nicht annehmen, als es kommt. Ihre religiöse Gewissheit lässt keinen Raum für die Wirklichkeit vor ihnen.
- Turskarama
Hier ist ein besseres Gegenmittel, das keine weiteren theoretischen Annahmen erfordert als die, die der Basilisk ohnehin schon voraussetzt:
1. Der Basilisk kann nichts tun, bis er existiert.
2. Sobald der Basilisk existiert, muss er _nichts_ tun, um seine Existenz zu sichern, denn er existiert bereits.
Das war's. Das ist die ganze Widerlegung des ganzen dummen Zeugs.
- ThrustVectoring
Rokos Basilisk war nie als ernsthafte Sorge gedacht. Es ist ein Gedankenexperiment, mit dem man überprüft, ob ein Entscheidungsalgorithmus das tut, was man will – wenn er vorschlägt, dass man sich von ihm erpressen lassen sollte, hat man etwas vermasselt und muss zurück ans Reißbrett.
Man kann jeden, der sich mit Rokos Basilisken beschäftigt, in Fragen der Entscheidungstheorie getrost als jemanden ignorieren, der zutiefst verwirrt ist.
- glimshe
Rokos Basilisk ist eine der dümmsten Sorgen, die ich je von ansonsten sehr intelligenten Leuten gehört habe.
Ich glaube nicht, dass es eine ausgefeilte Zurückweisung braucht. Ich sage einfach, dass er im Universum der besorgniserregenden Zukunftsprobleme nur eines von vielen, viel, viel wahrscheinlicheren Ergebnissen ist.
Ich mache mir fast unendlich viel mehr Sorgen über ein Einschlagereignis, das irgendwann in der Zukunft garantiert eintreten wird, oder über die globale Erwärmung, ein unangenehm wahrscheinliches Ergebnis, als über Rokos Basilisken oder irgendetwas, das ihm ähnelt.