Abulafia: Wie KI uns in eine Endlosschleife aus Bedeutungslosigkeit lockt
The Creation of Abulafia
In Umberto Ecos Roman „Das Foucaultsche Pendel“ erfinden drei Verleger eine Verschwörungstheorie, nur um selbst daran zu glauben. Der Autor überträgt dieses Phänomen auf die Interaktion mit LLMs: Sie bestätigen unsere Ideen, erweitern sie und erzeugen so eine trügerische Bestätigung. Das Problem: Die Unabhängigkeit fehlt, und der Prozess kann Organisationen erfassen, die einem Modell ein Selbstbild geben und dessen Aussagen für bare Münze nehmen. Ein Essay über Epistemik im Zeitalter der KI.
Was wir zerstört haben, ist nicht die Wahrheit der Behauptung, sondern der Beweiswert des Zeugnisses des Modells darüber – und dieses Zeugnis ist der lebendigste Beweis im Raum.
- 0gs
Ich habe Foucaults Pendel gelesen, bevor der Da-Vinci-Code herauskam, und ich kann immer noch nicht glauben, dass es nicht eine größere Kontroverse war. Dan Brown hat das ganze Format geklaut.
- vintagedave
Es ist so viele Jahre her, seit ich Foucaults Pendel gelesen habe, dass ich mich nicht an den Computer oder sein Programm erinnere. Aber ich erinnere mich, dass die Konfabulation, die sie erschufen, real war – zufällig, aber sie war es. (Der Artikel hat wahrscheinlich recht – sie war nicht real, wurde aber von Leuten, die es wollten, für real gehalten. Was ich wiederum fälschlich als etwas Reales in Erinnerung habe, das von genau diesen Verschwörungstheoretikern bestätigt wird.) Vielleicht habe ich falsch interpretiert, was ich gelesen habe. Aber wenn das so wäre, wäre das eine überraschende Wendung in Bezug auf den Punkt dieses Artikels.
- mcphage
Mein Lieblingsdetail an Abulafia war die Beschreibung auf der Rückseite als „ein unglaublicher Computer, der in der Lage ist, Verbindungen zwischen all ihren Einträgen zu erfinden“. Hat die Person, die das geschrieben hat, das Buch nicht gelesen? Hat sie es nicht verstanden? Oder machte sie einen Witz, bei dem der „unglaubliche Computer“ eigentlich die Redakteure waren?