Ученые: LLM распространяются как вирус и могут вызвать необратимую зависимость
LLMs as a Cognitive Virus
Исследователи из нескольких университетов, включая Рикарда Соле, Джулио Руффини и Майкла Левина, предлагают рассматривать распространение больших языковых моделей (LLM) через вирусную аналогию. Они моделируют переходы между тремя состояниями пользователей: некoupled, coupled и persistently dependent. Анализ показывает, что взаимодействие социальной передачи, восстановления и коллективного подкрепления может привести к переломным моментам и технологической блокировке. Ключевой вывод: после пересечения критического порога даже небольшой рост принятия может вызвать быстрые сдвиги к устойчивой зависимости и резкой потере когнитивных способностей. Однако авторы также описывают условия для «когнитивной иммунизации» — снижения передачи и обеспечения обратимости. Работа подчеркивает нелинейные коллективные переходы в принятии LLM и их последствия для когнитивной автономии.
Как только критический порог пересечен, небольшие увеличения принятия могут вызвать быстрые популяционные сдвиги к устойчивой зависимости, с резкими потерями когнитивной компетенции.
- Murfalo
Мне нравится такой ход мыслей, но формулировка кажется мне немного провокационной и несправедливой. Почти всё, что связано с обменом идеями, можно рассматривать как вирус! Это потому, что с точки зрения эволюционной биологии идеи — это когнитивный эквивалент генов (собственно, отсюда и термин «мем»).
Существует целая область — эволюционная меметика, посвящённая этому. Культурные ценности, маркетинг, религия, социальные сети, образование, пропаганда и т.д. — всё это вполне естественно рассматривается через эту призму. Даже термины, которые мы используем в повседневной речи (например, «стать вирусным»), кажется, интуитивно это улавливают.
Разве мой друг — вирус, если рекомендует мне свою любимую книгу? Ну, наверное, да, но так в общем-то и работают идеи. Просто моё скромное мнение.
- dzink
Когда человек проводит время с другими людьми, он органично делегирует часть своего мышления. В этом и заключается эффективность команд. Брак приводит к тому, что супруги становятся двумя половинами одного общего мозга: один берёт на себя часть когнитивной нагрузки (финансы, образование детей и т.д.), а другой — другую (может, вопросы по дому, налоги, что угодно). Нагрузка, которую может выдержать один мозг, ограничена, поэтому объединение с другими и делегирование другим кажется мозгу естественным. LLM создают впечатление, что у них есть когнитивные способности нести эту нагрузку, но у них нет последовательности памяти. Вы с радостью думаете, что наконец-то можете избавиться от задачи, а модель, которой вы доверили её, заменяется за кулисами, или не обучается и не улучшается на той задаче, которую вы делегировали, или провайдер просто делает её глупее с помощью квантизации. Тем временем вы потеряли навык, и ваша задача провалилась. Да, они хорошо справляются с некоторыми задачами в некоторых случаях, но всё же очень изменчиво (даже одна и та же модель может работать по-разному в разные дни недели или время суток). Это больше похоже на азартные игры и переменное вознаграждение, чем на супруга.
- jjk166
«Если люди научатся этому [письму], оно внедрит забывчивость в их души; они перестанут упражнять память, потому что будут полагаться на написанное, вызывая воспоминания не изнутри себя, а с помощью внешних знаков».
— Сократ
- Upvoter33
Не понимаю, почему это интересно; похоже, что всё, что становится «популярным», можно представить как «вирус», включая такие вещи, как «наличие холодильника». Почему это даёт особое понимание?
- ionetan
Это наводит меня на смежную тему — стоимость когнитивного долга. Думаю, пора начать количественно оценивать, что значит, что мы больше не понимаем значительные части наших систем и инфраструктуры. Как только мы это оценим, мы сможем рассуждать о том, как с этим справиться.
Я исследовал эту концепцию в этом посте:
https://ljtn.github.io/epiq/blog/cost-of-cognitive-debt.html
- SoStupid
Уже само словоупотребление — просто Идиократия.
Что подумают наши потомки, оглядываясь на этот период времени.
Они не пытались решить проблему старения или поднять уровень жизни всех до максимума, не стремились соединить мир, исследовать его и найти других.
Они задавались вопросом, не является ли словесный калькулятор антихристом. Они собирались в высших судах того времени и привлекали самые блестящие умы, чтобы обсудить, приведёт ли линейная алгебра к Армагеддону.
Они отвергали любые творческие и продуктивные начинания, которые осмеливались автоматизировать рутину или развивать труды общественного достояния (в нижнем регистре)…
ибо любое такое потворство стало великим грехом в Эдеме, запретным плодом, который Адам ни в коем случае не должен получить, чтобы не стать как мы!
- jeffreyrogers
Думаю, в этой точке зрения есть доля истины. Я уверен, что в некоторых аспектах я стал менее искусен в программировании, чем до начала использования LLM, но я стал гораздо продуктивнее и могу работать с более широким спектром программного обеспечения, чем раньше. Письмо, вероятно, ослабило слуховую память людей, а калькуляторы, вероятно, снизили навыки устного счёта, но я не думаю, что это чисто негативное явление. Просто требуется некоторая адаптация, чтобы привыкнуть к новому положению вещей. Я также думаю, что мои навыки программирования довольно быстро вернулись бы, если бы я снова начал программировать без LLM, точно так же, как мои навыки решения задач на LeetCode быстро возвращаются, когда я готовлюсь к собеседованиям.
- foobarbecue
Этот «когнитивный вирус» очень похож на исходное значение слова «мем», как его понимал Докинз.