La Yihad Butleriana: cuando la humanidad destruyó todas las máquinas pensantes
Butlerian Jihad
Durante dos generaciones, la humanidad libró una guerra casi religiosa contra los ordenadores, las máquinas pensantes y los robots conscientes, entre 201 y 108 B.G. El resultado fue la destrucción total de la inteligencia artificial y un mandato de la Orange Catholic Bible: «No harás una máquina a imagen de la mente humana». Incluso las calculadoras más simples quedaron prohibidas bajo pena de muerte, lo que abrió paso a los mentat, la Bene Gesserit y la Spacing Guild.
«Debemos negar las máquinas que piensan. Los humanos deben fijar sus propias directrices. Esto no es algo que las máquinas puedan hacer. El razonamiento depende de la programación, no del hardware, ¡y nosotros somos el programa definitivo! Nuestra Yihad es un “programa de borrado”. ¡Borramos las cosas que nos destruyen como humanos!»
- twowaway
El mejor tratamiento de la IA en el universo de Dune que he encontrado con diferencia es el de Timothy O'Reilly (sí, ese O'Reilly):
- tarpitt
Mi cita favorita de Dune:
La grandeza es una experiencia transitoria. Nunca es consistente. Depende en parte de la imaginación creadora de mitos de la humanidad. La persona que experimenta la grandeza debe tener un sentimiento por el mito en el que está inmerso. Debe reflejar lo que se proyecta sobre él. Y debe tener un fuerte sentido de lo sardónico. Esto es lo que lo desvincula de la creencia en sus propias pretensiones. Lo sardónico es lo único que le permite moverse dentro de sí mismo. Sin esta cualidad, incluso la grandeza ocasional destruirá a un hombre.
- cautiouscat
Lo que encuentro interesante sobre las máquinas pensantes en Dune es que en mucha ciencia ficción es la propia inteligencia artificial la que decide destruir a la humanidad. En Dune, los humanos a cargo de las máquinas (tecnócratas) son los que casi destruyen a la humanidad. La Yihad fue una lucha contra ellos, tanto como contra las propias máquinas.
Así que, en cierto modo, es más probable que veamos la versión de Dune de "las máquinas apoderándose del mundo/universo" que la de Terminator, por ejemplo, aunque muchos bromeen con que ChatGPT/Claude son Skynet.
- antihipocrat
Al final de la página está este párrafo:
Otra justificación más sutil para la Yihad Butleriana también se encuentra en las novelas originales de Frank Herbert, específicamente la tesis de Heidegger de que el uso de la tecnología entrena a los humanos a pensar como máquinas. El problema es que las máquinas son deterministas; por lo tanto, entrenar a las personas para que sean máquinas es autolimitante.
Me pregunto si Heidegger consideraría la naturaleza probabilística de los LLM como algo que tiene un efecto positivo en el pensamiento humano.
- bumbledraven
Herbert parecía pensar que ser humano es ser esencialmente 'abierto', capaz de una evolución no descubierta e indeterminada, tanto personal como de especie.
Ciertamente.
- randomImmigrant
Me pregunto hacia dónde va la evolución del cerebro humano con el uso generalizado de la IA.
La evidencia temprana no es buena, pero creo que con un entrenamiento deliberado y reflexivo nuestros cerebros son capaces de mucho más de lo que actualmente les reconocemos.
- ks2048
En el libro, ¿son hombres contra máquinas? Porque está bastante claro que en nuestro mundo será hombres+máquinas contra hombres (probablemente también + algunas máquinas).
- mentalgear
> Esto impulsó a los creadores de estas máquinas a una nueva clase tecnocrática, controlando efectivamente los mundos de la gente común.
Los tecnofascistas de hoy. Ya estamos allí.
También, citando la primera novela de Dune:
> Una vez los hombres entregaron su pensamiento a las máquinas con la esperanza de que esto los liberara. Pero eso solo permitió que otros hombres con máquinas los esclavizaran.