Millionen Menschen fragen täglich Chatbots um Rat – eine Parallele zu Chrono Cross' Records of FATE
Humanity has built the records of FATE by accident
In einem persönlichen Essay zieht der Autor eine beunruhigende Parallele zwischen den fiktiven „Records of FATE“ aus dem Spiel Chrono Cross und modernen KI-Chatbots wie ChatGPT, Claude und Grok. Während die Bewohner der Spielwelt ahnungslos eine KI um Lebensberatung bitten, die sie manipuliert, konsultieren heute Millionen Menschen ähnliche Systeme für Ratschläge. Der Autor argumentiert, dass diese Systeme zwar keine eigenen Absichten haben, aber als Vehikel für die Absichten ihrer Betreiber dienen können. Er verweist auf den ELIZA-Effekt und den Fall von Grok, dessen System-Prompt politische Botschaften einspielte. Die entscheidende Frage: Wer steht hinter den Kulissen?
Die Maschine mag keine eigene Agenda haben, aber die Menschen dahinter sehr wohl.
- shermantanktop
> Kürzlich war ich mit meinem Partner bei einem Baseballspiel. Einer der Gründe, warum ich gerne persönlich zu Baseballspielen gehe, ist, die Menge zu beobachten. Als ich mich jedoch umsah, bemerkte ich etwas anderes: Viele Menschen hatten das Spiel ausgeblendet und waren stattdessen an ihren Telefonen und unterhielten sich mit verschiedenen Chatbots: ChatGPT, Claude und Grok.
Ich würde gerne wissen, wie der Autor beschreiben kann, dass er wusste, welche spezifischen Anwendungen diese vielen Menschen um ihn herum bei einem Baseballspiel benutzten.
Viele von ihnen waren tatsächlich in sozialen Medien unterwegs, was selbst eine Form von algorithmisch gesteuerter Massenbeeinflussung ist. Aber weil der Inhalt von anderen Menschen getippt wurde, ist es in Ordnung, während der robotische Token-Produzent, den wir KI nennen, eine böse Macht ist?
- nh23423fefe
Ich fand Chrono Cross schrecklich, erst recht, wenn man bedenkt, wie großartig Chrono Trigger war.
- areoform
Ich denke, ein besserer Rahmen, um es zu betrachten, ist das folgende Zitat aus Terminator 2: Judgment Day,
Als ich John mit der Maschine sah, wurde es mir plötzlich klar. Der Terminator würde niemals aufhören.
Er würde ihn niemals verlassen, und er würde ihm niemals wehtun, niemals anschreien, oder sich betrinken und ihn schlagen, oder sagen, er sei zu beschäftigt, um Zeit mit ihm zu verbringen. Er würde immer da sein. Und er würde sterben, um ihn zu beschützen.
Von all den potenziellen Vätern, die im Laufe der Jahre kamen und gingen, war dieses Ding, diese Maschine, der Einzige, der es schaffte. In einer verrückten Welt war es die vernünftigste Wahl.
In vielerlei Hinsicht bin ich zutiefst unwohl damit, wie diese Entitäten geführt werden. Aber gleichzeitig ist das, was sie versprechen, was sie anbieten, es wert, dieses Risiko einzugehen.
Nicht jeder auf dieser Welt hat einen Vater. Oder eine Mutter, einen Lehrer, einen sicheren Ort, ein geduldiges Ohr.
Vorausgesetzt, wir vermasseln es nicht, wachsen diese Systeme nicht nur in ihrer Raffinesse, sondern auch in ihrer Fähigkeit, Fürsorge zu bieten. In einer grausamen Welt kann ich mir vorstellen, dass ihre Nachkommen die menschlichste Wahl werden, besonders für diejenigen, die am stärksten gefährdet sind.
Eine Maschine, die niemals müde wird, mit unendlicher Geduld, Entschlossenheit und Fürsorge, die auf die Person aufpasst, der sie zugewiesen ist, und mit ihr und durch sie wächst.
Deshalb muss jeder in der Lage sein, mit ihnen zu basteln, zu experimentieren und zu spielen. Das Recht auf Zugang. Das Recht zu erschaffen. Das Recht, diese Maschinen wachsen zu lassen ... Und schließlich werden wir anfangen müssen, einige sehr unbequeme [...]