LLMentalist-Effekt: Wie Chatbots die Masche eines Psychics nachahmen
Chat-based Large Language Models replicate the mechanisms of a psychic's con
Viele Nutzer halten chatbasierte Large Language Models für intelligent. Der Autor argumentiert, dass dieser Eindruck auf demselben Mechanismus beruht wie die Cold-Reading-Masche eines Wahrsagers: Beide verwenden validierende Aussagen, die statistisch generisch sind, aber subjektiv spezifisch wirken. Ein Vergleich zeigt, wie LLMs durch geschickte Formulierungen und Rückfragen den Anschein von Intelligenz erzeugen – eine Täuschung, die im Kopf des Nutzers entsteht, nicht im Modell.
Der Intelligenz-Illusion liegt derselbe Mechanismus zugrunde wie der Masche eines Wahrsagers, die oft als Cold Reading bezeichnet wird. Es sieht aus wie eine versehentliche Automatisierung derselben grundlegenden Taktik.