El peligroso mecanismo de Abulafia: cómo los LLM nos atrapan en nuestras propias teorías
The Creation of Abulafia
En la novela de Umberto Eco, El péndulo de Foucault, tres editores crean una conspiración ficticia con un programa BASIC que permuta letras. El autor analiza cómo este mecanismo, donde el sinsentido se entrelaza con la interpretación humana, se aplica hoy a los LLM. Aunque sabemos que sus respuestas no son independientes, su lenguaje nos seduce y nos hace creer que hay corroboración. El artículo advierte sobre el peligro en organizaciones que entrenan modelos con una identidad propia, creando un ciclo donde la evidencia se destruye.
Lo que destruimos no es la verdad de la afirmación, sino el valor probatorio del testimonio del modelo sobre ella, y ese testimonio es la evidencia más vívida en la sala.
- 0gs
Leí el Péndulo de Foucault antes de que saliera El código Da Vinci y todavía no puedo creer que no fuera una controversia mayor. Dan Brown copió todo el formato.
- vintagedave
Han pasado tantos años desde que leí El péndulo de Foucault que no recuerdo la computadora, ni su programa. Pero mi recuerdo es que la confabulación que crearon era real, por accidente, pero lo era.
(El artículo probablemente tiene razón: no era real, pero la gente que quería que lo fuera lo creía así. Lo cual, a su vez, recuerdo mal como si hubieran tropezado con algo real que esos mismos teóricos de la conspiración confirman).
Quizás malinterpreté lo que leí. Pero si es así, sería un giro sorprendente respecto al punto de este artículo.
- mcphage
Lo que más me gusta de Abulafia es la descripción en la contraportada como "una computadora increíble capaz de inventar conexiones entre todas sus entradas". ¿La persona que escribió eso no leyó el libro? ¿No lo entendió? ¿Estaba haciendo una broma, donde la "computadora increíble" eran en realidad los editores?