LLMs als kognitiver Virus: Studie zeigt Kipppunkte zur Abhängigkeit
LLMs as a Cognitive Virus
Forschende um Ricard Solé und Michael Levin analysieren die Verbreitung von Large-Language Models (LLMs) mit einem viralen Modell. Sie unterscheiden drei Nutzertypen – ungebunden, gekoppelt und dauerhaft abhängig – und zeigen, dass sozialer Transfer, Erholung und kollektive Verstärkung zu Kipppunkten und technologischer Lock-in führen können. Überschreitet die Adoption eine kritische Schwelle, drohen abrupte Verluste kognitiver Kompetenz. Das Modell identifiziert jedoch auch Bedingungen für kognitive Immunisierung durch reduzierte Übertragung und erhöhte Reversibilität.
Ein zentrales Ergebnis ist die Möglichkeit von Runaway-Dynamiken: Sobald eine kritische Schwelle überschritten ist, können kleine Anstiege der Adoption schnelle populationsweite Verschiebungen hin zu dauerhafter Abhängigkeit auslösen, mit abrupten Verlusten kognitiver Kompetenz.
- Murfalo
Ich liebe diese Denkweise, aber die Formulierung wirkt auf mich etwas reißerisch und unfair. So ziemlich alles, was mit dem Austausch von Ideen zu tun hat, kann als Virus betrachtet werden! Das liegt daran, dass Ideen aus evolutionsbiologischer Sicht das kognitive Äquivalent von Genen sind (tatsächlich stammt der Begriff Meme genau daher).
Es gibt ein ganzes Forschungsfeld, die evolutionäre Memetik, das sich dem widmet. Kulturelle Werte, Marketing, Religion, soziale Medien, Bildung, Propaganda usw. können alle ganz natürlich durch diese Linse betrachtet werden. Sogar die Begriffe, die wir in der Alltagssprache verwenden (z. B. "viral gehen"), scheinen das intuitiv zu erfassen.
Ist mein Freund ein Virus, weil er mir sein Lieblingsbuch empfiehlt? Nun, ja, vermutlich, aber so funktionieren Ideen eben. Nur meine zwei Cent.
- dzink
Wenn eine Person Zeit mit anderen Menschen verbringt, lagert sie organisch einen Teil ihres Denkens aus. Das ist der Effizienzgewinn in Teams. Eine Ehe führt dazu, dass Paare zu zwei Hälften eines gemeinsamen Gehirns werden – der eine übernimmt einen Teil der kognitiven Last (Finanzen, Bildung der Kinder usw.), während der andere einen anderen übernimmt (vielleicht Hausprobleme, Steuern, was auch immer). Die Last, die mit einem Gehirn getragen werden kann, ist begrenzt, daher fühlt es sich für das Gehirn organisch an, sich mit anderen zu verbinden und Aufgaben auszulagern. LLMs erwecken den Eindruck, die kognitive Fähigkeit zu haben, die Last zu tragen, aber sie haben nicht die Beständigkeit des Gedächtnisses. Man nimmt bereitwillig an, dass man endlich eine Aufgabe loswerden kann, und das Modell, dem man vertraut hat, wird unter der Decke ausgetauscht, oder es trainiert und verbessert sich nicht bei der Aufgabe, die man ausgelagert hat, oder der Inferenzanbieter quantisiert es einfach dumm. In der Zwischenzeit hat man seine Fähigkeit verloren und die Aufgabe ist fehlgeschlagen. Ja, sie fühlen sich bei manchen Aufgaben manchmal gut an, aber immer noch sehr unterschiedlich gut (sogar dieselben Modelle an verschiedenen Tagen der Woche oder Tageszeiten). Das kommt eher Glücksspiel und variablen Belohnungen nahe als einem Ehepartner.
- jjk166
"Wenn die Menschen dies [das Schreiben] lernen, wird es Vergessenheit in ihren Seelen pflanzen; sie werden aufhören, ihr Gedächtnis zu üben, weil sie sich auf das Geschriebene verlassen und Dinge nicht mehr aus sich selbst heraus in Erinnerung rufen, sondern durch äußere Zeichen."
– Sokrates
- Upvoter33
Ich bin nicht sicher, warum das interessant ist; es scheint, als könnte alles, was "beliebt" wird, als "Virus" dargestellt werden, einschließlich Dingen wie "einen Kühlschrank haben". Warum bietet das besondere Einsichten?
- ionetan
Das bringt mich zu einem verwandten Thema: den Kosten kognitiver Schulden. Ich denke, es ist an der Zeit, zu quantifizieren, was es bedeutet, dass wir große Teile unserer Systeme und Infrastruktur nicht mehr verstehen. Sobald wir es quantifizieren, können wir darüber nachdenken, wie wir es angehen.
Ich habe dieses Konzept in diesem Beitrag untersucht:
https://ljtn.github.io/epiq/blog/cost-of-cognitive-debt.html
- SoStupid
Schon die Formulierung ist so Idiocracy.
Was unsere Nachkommen denken werden, wenn sie auf diese Zeit zurückblicken.
Sie versuchten nicht, das Altern zu lösen oder allen den höchsten Lebensstandard zu bringen, sie kümmerten sich nicht darum, die Welt zu verbinden, sie zu erforschen und andere zu finden.
Sie fragten sich, ob ein Wortrechner der Antichrist sei. Sie versammelten sich in den höchsten Gerichten der damaligen Zeit und zogen die brillantesten Köpfe hinzu, um zu diskutieren, ob lineare Algebra den Weltuntergang herbeiführen würde.
Sie verpönten jede kreative oder produktive Tätigkeit, die es wagte, Langweiliges zu automatisieren oder auf Werken der Gemeinfreiheit (kleingeschrieben) aufzubauen ...
denn jede solche Genusshandlung war zu einer großen Sünde in Eden geworden, einer verbotenen Frucht, die Adam niemals erlangen dürfe, damit er nicht werde wie wir!
- jeffreyrogers
Ich denke, an dieser Sichtweise ist etwas Wahres dran. Ich bin sicher, dass ich in mancher Hinsicht weniger geschickt im Programmieren bin als zu der Zeit, als ich anfing, LLMs zu nutzen, aber ich bin viel produktiver und kann an einer breiteren Vielfalt von Software arbeiten als zuvor. Schreiben hat wahrscheinlich das auditive Gedächtnis der Menschen geschwächt, und Taschenrechner haben wahrscheinlich die Kopfrechenfähigkeiten der Menschen reduziert, aber ich glaube nicht, dass eines von beiden unterm Strich negativ ist. Es erfordert nur etwas Anpassung, um sich an die neue Art der Dinge zu gewöhnen. Ich denke auch, dass meine Programmierfähigkeiten ziemlich schnell zurückkämen, wenn ich wieder ohne LLMs programmieren würde, so wie meine Leetcode-Fähigkeiten ziemlich schnell zurückkommen, wenn ich mich auf Vorstellungsgespräche vorbereite.
- foobarbecue
Dieser "kognitive Virus" ist dem ursprünglichen Sinn des Wortes "Mem", wie es Dawkins konzipierte, ziemlich ähnlich.