LLMの普及は「認知ウイルス」か：閾値を超えると集団依存へ

人が他の人と時間を過ごすとき、有機的に思考の一部を外部委託しています。それがチームの効率向上です。結婚は、カップルが共有された脳の半分になることにつながります。一方が認知的負荷（財務、子供の教育など）を引き受け、もう一方が別の負荷（家の問題、税金、その他）を引き受けます。一つの脳で運べる負荷には限界があるため、他者と融合し、外部委託することは脳にとって有機的に感じられます。LLMは、その負荷を運ぶ認知能力があるという印象を与えますが、記憶の一貫性がありません。あなたは喜んでタスクを手放せると思い込み、信頼したモデルが舞台裏で入れ替えられたり、外部委託したタスクでトレーニングや改善が行われなかったり、推論プロバイダーがただ単に量子化して馬鹿にしてしまったりします。その間に、あなたはスキルを失い、タスクは失敗します。確かに、一部のタスクでは時々うまく機能しますが、それでも非常に変動的です（同じモデルでも曜日や時間帯によって異なります）。それは、配偶者というよりは、ギャンブルや変動報酬に近いものです。

「もし人々がこれを（文字を）学べば、それは彼らの魂に忘却を植え付けるでしょう。彼らは書かれたものに頼るために記憶を使わなくなり、自分自身の内側からではなく、外部の印によって物事を思い出すようになるでしょう。」

-ソクラテス

これがなぜ興味深いのかわかりません。何でも「人気」になれば「ウイルス」と見なせるでしょう。「冷蔵庫を持つこと」みたいなものも含めて。なぜこれが特別な洞察を与えるのでしょうか？

関連するトピック、認知的負債のコストについて考えさせられます。私たちがシステムやインフラの主要部分をもはや把握していないことが何を意味するのか、定量化し始める時が来ていると思います。定量化できれば、それにどう対処するかを考え始めることができます。

この概念を次の投稿で探求しました：

https://ljtn.github.io/epiq/blog/cost-of-cognitive-debt.html

その言葉遣いだけで、まさに『Idiocracy』です。

私たちの子孫がこの時代を振り返ったとき、何を思うでしょう。

彼らは老化を解決したり、すべての人に最高の生活水準をもたらそうとはしていませんでした。世界を結びつけ、探検し、他の人々を見つけることにも関心がありませんでした。

彼らは、単語計算機が反キリストかどうかを疑問に思っていました。彼らは当時の最高裁判所に集まり、線形代数がハルマゲドンをもたらすかどうかを議論するために最も優秀な頭脳を動員しました。

彼らは、退屈な作業を自動化したり、パブリックドメインの作品を基に構築したりする創造的または生産的な努力をすべて避けました…

なぜなら、そのような耽溺はすべてエデンにおける大罪となり、アダムが私たちのようにならないように、決して手に入れてはならない禁断の果実となったからです！

この視点には真実の側面があると思います。LLMを使い始めてから、プログラミングのスキルが以前より低下した部分もあるでしょうが、生産性ははるかに向上し、以前よりも幅広い種類のソフトウェアに取り組むことができます。書くことは人々の聴覚記憶を弱め、電卓は人々の暗算スキルを低下させたかもしれませんが、どちらも純粋に悪いとは思いません。新しいやり方に適応するための調整が必要なだけです。また、LLMなしでプログラミングを再開すれば、私のプログラミングスキルはすぐに戻ってくると思います。ちょうど、面接の準備をするとLeetCodeのスキルがすぐに戻ってくるのと同じです。

この「認知ウイルス」は、ドーキンスが考えた「ミーム」という言葉の本来の意味と非常に似ています。