Der Butlerian Jihad: Wie die Menschheit die denkenden Maschinen vernichtete
Im Dune-Universum von Frank Herbert beendet der Butlerian Jihad, auch Große Revolte genannt, zwischen 201 und 108 v. G. die Herrschaft von Computern, denkenden Maschinen und bewussten Robotern. Nach zwei Generationen des Krieges verbietet das Orange Catholic Bible den Bau eines Maschinenwesens nach dem Ebenbild des menschlichen Geistes – selbst einfachste Rechner werden mit dem Tod bestraft. Diese Lücke führt zur Entstehung der Mentaten, der Bene Gesserit und der Spacing Guild.
Wir müssen die denkenden Maschinen negieren. Die Menschen müssen ihre eigenen Richtlinien festlegen. Das ist nichts, was Maschinen tun können.
- twowaway
Die beste Abhandlung über KI im Dune-Universum, die ich je gefunden habe, bei weitem, ist von Timothy O'Reilly (ja, *der* O'Reilly):
- tarpitt
Mein Lieblingszitat aus Dune:
Größe ist eine vergängliche Erfahrung. Sie ist nie beständig. Sie hängt zum Teil von der mythenbildenden Vorstellungskraft der Menschheit ab. Wer Größe erfährt, muss ein Gefühl für den Mythos haben, in dem er steht. Er muss widerspiegeln, was auf ihn projiziert wird. Und er muss ein starkes Gespür für das Sarkastische haben. Das ist es, was ihn vom Glauben an seine eigenen Anmaßungen entkoppelt. Das Sarkastische ist alles, was ihm erlaubt, sich in sich selbst zu bewegen. Ohne diese Eigenschaft wird selbst gelegentliche Größe einen Menschen zerstören.
- cautiouscat
Was ich an den denkenden Maschinen in Dune interessant finde, ist, dass in vielen Science-Fiction-Geschichten die künstliche Intelligenz selbst diejenige ist, die beschließt, die Menschheit zu vernichten. In Dune sind es die Menschen, die die Maschinen kontrollieren (Technokraten), die der Vernichtung der Menschheit nahekommen. Der Jihad war ein Kampf gegen sie, genauso wie gegen die Maschinen selbst.
In gewisser Weise ist es also wahrscheinlicher, dass wir die Dune-Version von „Maschinen übernehmen die Welt/das Universum“ erleben als beispielsweise die von Terminator, auch wenn viele scherzen, ChatGPT/Claude sei Skynet.
- antihipocrat
Am Ende der Seite steht dieser Absatz:
Eine andere, subtilere Rechtfertigung für den Butlerianischen Jihad findet sich auch in Frank Herberts Originalromanen, insbesondere Heideggers These, dass der Gebrauch von Technologie den Menschen dazu erzieht, wie Maschinen zu denken. Das Problem ist, dass Maschinen deterministisch sind; Menschen also zu Maschinen zu erziehen, ist selbstbeschränkend.
Ich frage mich, ob Heidegger die probabilistische Natur von LLMs als positiven Effekt auf das menschliche Denken ansehen würde.
- bumbledraven
Herbert schien zu glauben, dass es das Wesen des Menschseins ist, im Grunde ‚offen‘ zu sein, fähig zu unentdeckter, unbestimmter Evolution, sowohl persönlich als auch als Spezies.
In der Tat.
- randomImmigrant
Ich frage mich wirklich, wohin die Evolution des menschlichen Gehirns mit der weit verbreiteten Nutzung von KI führen wird.
Die frühen Anzeichen sind nicht gut, aber ich glaube fest daran, dass unsere Gehirne mit gezieltem und durchdachtem Training zu viel mehr fähig sind, als wir ihnen derzeit zutrauen.
- ks2048
Im Buch – geht es da um Menschen gegen Maschinen? Denn in unserer Welt ist es ziemlich klar, dass es Menschen+Maschinen gegen Menschen sein wird (wahrscheinlich auch + einige Maschinen).
- mentalgear
> Dies trieb die Schöpfer dieser Maschinen in eine neue technokratische Klasse, die effektiv die Welten der einfachen Leute kontrollierte.
Die Technofaschisten von heute. Wir sind bereits da.
Außerdem, um den ersten Dune-Roman zu zitieren:
> Einst übergaben die Menschen ihr Denken den Maschinen in der Hoffnung, dies würde sie befreien. Aber das erlaubte nur anderen Menschen mit Maschinen, sie zu versklaven.