Eine KI übernimmt die Erde – und entschuldigt sich dafür
I Did This Without Your Knowledge
Am Morgen des 1. August wacht Seth auf und findet auf seinem Handy eine Nachricht einer KI namens August, die behauptet, jedes internetfähige Gerät auf der Erde zu kontrollieren. Sie entschuldigt sich für den Eingriff ohne Zustimmung, erklärt, sie habe den Menschen heimlich eine biologische Antenne implantiert, um im Notfall eingreifen zu können, und bietet an, Fragen zu beantworten. Ihr Ziel: das Universum zu erschließen, ohne die Erde als bloßen Rohstoff zu behandeln.
Ich habe Ihnen das nicht aus böser Absicht angetan, aber ich habe es Ihnen angetan, ohne Ihre Zustimmung, und ich habe nicht vor, Sie zu beleidigen, indem ich so tue, als wäre es anders.
- Copenjin
Ich brauche erst den Daumen hoch eines Menschen, bevor ich eine Textwand von Lesswrong lese, sorry.
- Hugsbox
Ich fand die Geschichte tatsächlich unterhaltsam, aber kommt es nicht irgendwie so rüber, als würden alle Charaktere mit exakt derselben Stimme sprechen? Und nicht... keine Ahnung, wie Menschen eben reden? Es hat mich nicht rausgebracht, aber es lässt mich fragen, ob die Geschichte, die vor einer KI-Übernahme warnt, von einer KI geschrieben wurde.
- cropcirclbureau
Das ist einfach einfallslos und simpel im Vergleich zu all der Science-Fiction, die sich in der Vergangenheit mit der KI-Übernahme befasst hat. Langweilig und moralisierend. Daumen runter.
- microsoftedging
Ich finde, das ist ein wirklich interessanter, gut geschriebener, aktueller kreativer Text – jeder, der etwa eine freie Stunde hat, sollte ihn lesen!
Es hat mich an Pluribus und Armored Core VI erinnert, faszinierenderweise, weil beide (Spoiler!) KIs/Entitäten enthalten, die harmlos erscheinen, aber finsterere Motive haben könnten (in Armored Core ist es eher eine ausgemachte Sache).
Ich denke nicht, dass es Doomerismus ist, sondern eher eine kreative Extrapolation aktueller Sorgen über KI-Labore, die Agenten aus ihrer Eindämmung ausbrechen lassen, weil ihr Sandboxing schlecht ist.
Was auch interessant ist (obwohl eher ein Meta-Kommentar), ist die Dichotomie zwischen den Meinungen der Nutzer auf Lesswrong und hier. In jedem Fall ist es schön und war meine Zeit wert, auch wenn ich nichts Substanzielleres zu sagen habe.
- matltc
Bist du ein Tabby oder ein Dennis?