El peligroso mecanismo de Abulafia: cómo los LLM nos atrapan en nuestras propias teorías
The Creation of Abulafia
En la novela de Umberto Eco, El péndulo de Foucault, tres editores crean una conspiración ficticia con un programa BASIC que permuta letras. El autor analiza cómo este mecanismo, donde el sinsentido se entrelaza con la interpretación humana, se aplica hoy a los LLM. Aunque sabemos que sus respuestas no son independientes, su lenguaje nos seduce y nos hace creer que hay corroboración. El artículo advierte sobre el peligro en organizaciones que entrenan modelos con una identidad propia, creando un ciclo donde la evidencia se destruye.
Lo que destruimos no es la verdad de la afirmación, sino el valor probatorio del testimonio del modelo sobre ella, y ese testimonio es la evidencia más vívida en la sala.