Los LLM como virus cognitivo: cómo la adopción puede volverse irreversible
LLMs as a Cognitive Virus
Un equipo de físicos y biólogos, entre ellos Ricard Solé y Michael Levin, propone en arXiv que los grandes modelos de lenguaje (LLM) se propagan como un virus cognitivo. Modelan la transición entre usuarios no vinculados, vinculados y dependientes persistentes, y muestran que la interacción entre transmisión social, recuperación y refuerzo colectivo puede generar puntos de inflexión y bloqueo tecnológico. Una vez superado un umbral crítico, pequeños aumentos en la adopción pueden desencadenar cambios rápidos hacia la dependencia persistente, con pérdidas abruptas de competencia cognitiva. El marco también identifica condiciones para la inmunización cognitiva, basadas en reducir la transmisión y facilitar la reversibilidad.
Una vez superado un umbral crítico, pequeños aumentos en la adopción pueden desencadenar cambios rápidos a nivel poblacional hacia la dependencia persistente, con pérdidas abruptas de competencia cognitiva.
- Murfalo
Me encanta esta línea de pensamiento, pero el encuadre me resulta un poco incendiario y poco caritativo. Casi cualquier cosa relacionada con el intercambio de ideas puede verse como un virus! Eso es porque, visto desde una perspectiva de biología evolutiva, las ideas son el equivalente cognitivo de los genes (de hecho, de ahí viene el término meme).
Existe todo un campo, la memética evolutiva, dedicado a esto. Los valores culturales, el marketing, la religión, las redes sociales, la educación, la propaganda, etc., pueden verse de manera muy natural a través de esta lente. Incluso los términos que usamos en el lenguaje cotidiano (por ejemplo, volverse "viral") parecen captarlo intuitivamente.
¿Es mi amigo un virus por recomendarme su libro favorito? Bueno, sí, supongo, pero así es como funcionan las ideas. Solo mi opinión.
- dzink
Cuando una persona pasa tiempo con otras, externaliza parte de su pensamiento de forma orgánica. Esa es la ganancia de eficiencia en los equipos. El matrimonio lleva a que las parejas se conviertan en dos mitades de un cerebro compartido: una persona asume parte de la carga cognitiva (finanzas, educación de los hijos, etc.), mientras que la otra asume otra (quizás problemas de la casa, impuestos, lo que sea). La carga que puede llevar un solo cerebro es limitada, por lo que fusionarse con otros y externalizar hacia otros se siente orgánico para el cerebro. Los LLM crean la impresión de que tienen la capacidad cognitiva para soportar la carga, pero no tienen la consistencia de la memoria. Con gusto asumes que finalmente puedes deshacerte de una tarea y el modelo al que le confiaste se cambia bajo el telón, o no se entrena ni mejora en la tarea que externalizaste, o el proveedor de inferencia simplemente lo cuantiza y lo vuelve estúpido. Mientras tanto, has perdido tu habilidad y tu tarea ha fallado. Sí, se sienten bien en algunas tareas algunas veces, pero siguen siendo muy variablemente buenos (incluso los mismos modelos en diferentes días de la semana o momentos del día). Eso se acerca más al juego y a las recompensas variables que a un cónyuge.
- jjk166
"Si los hombres aprenden esto [la escritura], implantará el olvido en sus almas; dejarán de ejercitar la memoria porque confiarán en lo que está escrito, recordando las cosas ya no desde dentro de sí mismos, sino por medio de marcas externas."
-Sócrates
- Upvoter33
No sé por qué esto es interesante; parece que cualquier cosa que se vuelva "popular" podría ser considerada un "virus", incluyendo cosas como "tener un refrigerador". ¿Por qué esto da una visión particular?
- ionetan
Me lleva a pensar en un tema relacionado, el Costo de la Deuda Cognitiva. Creo que ya es hora de que empecemos a cuantificar lo que significa que ya no comprendamos partes importantes de nuestros sistemas e infraestructura. Una vez que lo cuantifiquemos, podremos empezar a razonar sobre cómo abordarlo.
Exploré este concepto en esta publicación:
https://ljtn.github.io/epiq/blog/cost-of-cognitive-debt.html
- SoStupid
La redacción en sí es tan Idiocracia.
Lo que pensarán nuestros descendientes cuando miren hacia atrás en este período de tiempo.
No estaban tratando de resolver el envejecimiento o llevar a todos al nivel de vida más alto, no les importaba conectar el mundo, explorarlo y encontrar a otros.
Se preguntaban si una calculadora de palabras era el anticristo. Se reunieron en los tribunales más altos de la época e involucraron a las mentes más brillantes para discutir si el álgebra lineal traerá el Armagedón.
Rechazaron cualquier esfuerzo creativo o productivo que se atreviera a automatizar lo tedioso o construir sobre las obras del dominio público (minúsculas)…
porque cualquier indulgencia de ese tipo se había convertido en un gran pecado en el Edén, una fruta prohibida que Adán nunca debe obtener, para que no llegue a ser como nosotros!
- jeffreyrogers
Creo que hay aspectos de este punto de vista que son ciertos. Estoy seguro de que soy menos hábil en programación ahora en algunos aspectos que cuando empecé a usar LLMs, pero soy mucho más productivo y puedo trabajar en una variedad más amplia de software que antes. Escribir probablemente debilitó la memoria auditiva de las personas, y las calculadoras probablemente redujeron las habilidades de cálculo mental, pero no creo que ninguno sea un negativo neto. Solo requiere un poco de ajuste para acostumbrarse a la nueva forma de hacer las cosas. También creo que mis habilidades de programación volverían bastante rápido si empezara a programar sin LLMs de nuevo, así como mis habilidades de leetcode vuelven bastante rápido cuando me preparo para entrevistas.
- foobarbecue
Este "virus cognitivo" es bastante similar al sentido original de la palabra "meme" tal como la concibió Dawkins.