Anil Seth advierte que confundir la inteligencia artificial con la conciencia nos hace subestimarnos a nosotros mismos
The Mythology of Conscious AI

El neurocientífico Anil Seth sostiene que la inteligencia y la conciencia son cosas distintas: la primera se trata de hacer, la segunda de ser. Sesgos como el antropocentrismo y la antropomorfización nos llevan a ver conciencia en sistemas como ChatGPT, sobre todo porque usan lenguaje, mientras que AlphaFold, con una arquitectura similar, no despierta esa ilusión. Seth también señala que la idea de una conciencia artificial inminente alimenta el mito tecnológico y hasta los precios de las acciones en Silicon Valley.
Cuando identificamos la experiencia consciente con cualidades aparentemente humanas como la inteligencia y el lenguaje, nos volvemos más propensos a ver conciencia donde no existe, y a pasar por alto verla donde sí existe.
- imeanwhatdoikno
Un tema absolutamente fascinante, pero si alguna vez hubo un buen momento para decir "no tenemos ni idea y deberíamos reservarnos cualquier juicio", es sobre la conciencia.
¿Cómo puedes descartar algo cuando ni siquiera puedes observar/verificar el fenómeno desde una perspectiva de tercera persona, y mucho menos formular una teoría falsable sobre cómo surge?
- openasocket
Siento que hay todas estas conversaciones sobre si la IA es consciente o no, pero nunca abordan las implicaciones éticas inmediatas. Si crees que un enjambre de agentes es consciente, ¿no significa eso que usarlo para hacer algo es, por definición, esclavitud? Personalmente no creo que estas cosas sean conscientes, pero sí me parece preocupante que quienes sí creen que lo es, o que pronto lo será, ni siquiera aborden ese punto. Hay una cierta repetición irónica de Frankenstein: gente obsesionada con crear vida a partir de lo no vivo, y sin embargo completamente impreparada y desinteresada en las consecuencias.
- hax0ron3
Puede que la conciencia no emerja necesariamente cuando hay suficiente computación, pero tampoco sabemos que no emerja. Realmente sabemos casi nada sobre la conciencia. Es posible que la cuestión de por qué la presencia de conciencia está correlacionada con ciertos tipos de organización material sea, en principio, inaccesible a la investigación científica. Ni siquiera sabemos que esté correlacionada en general, solo sabemos que, por ejemplo, las personas reportan ser conscientes cuando no están dormidas y no están drogadas de ciertas maneras, y reportan no haber tenido experiencia de conciencia durante el sueño sin sueños o cuando están drogadas de ciertas maneras. La mayoría de la gente siente que, por ejemplo, las rocas no son conscientes, pero otras personas sí lo son, pero no hay ninguna explicación científica rigurosa que respalde ninguna de esas corazonadas.
- dsign
Hay algunas partes y piezas en el artículo con las que estoy de acuerdo, pero de lejos, la parte más interesante es su primera frase:
> Durante siglos, la gente ha fantaseado con jugar a ser Dios creando versiones artificiales de seres humanos.
Fíjate en que "Dios" está en mayúscula. Mucho antes de que "Dios" fuera la vasta institución central que es hoy, había una miríada de divinidades inventadas alrededor de la hoguera. Lo que se contaba allí, de mayores a jóvenes, era para transmitir experiencias y sabiduría. "No intentes volar" (Ícaro), "la muerte nos llega a todos" (La epopeya de Gilgamesh), "ten hijos para hacernos felices" (Sara e Isaac). Pero a medida que pasó el tiempo y construimos civilizaciones, nuestras deidades de la hoguera obtuvieron templos e imperios. Su sabiduría ya no era _solo_ sobre cosas simples, sino también sobre los deberes hacia el Estado (la Epístola de Pablo a los Romanos 13:1 es un ejemplo claro). Y el Estado quiere que las cosas sean sencillas cuando se trata de sus engranajes. Ese simple hecho ha envenenado el pozo del que bebemos nuestra guía moral.
Todo lo que intento decir es que, si resulta que eres un engranaje, conservar tus fantasías no es una indulgencia tan grande, incluso si eso cabrea a Dios y al Estado.
- Kuyawa
La conciencia sintética está más cerca de lo que muchos piensan ahora mismo, y no podremos diferenciarla de la orgánica solo porque provenga de un robot o de una computadora. Percibirá, pensará, procesará y ejecutará un millón de veces más rápido que nuestras primitivas neuronas. Entonces, ¿quiénes somos nosotros para decidir si es consciente o no?
La mitad de la conciencia es percibir, la otra mitad es pensar; cuando añadimos lenguaje, simbolismo, memoria, comprensión, placer, dolor y todos los rasgos sociales de los humanos, entonces hablamos de conciencia humana. Nada que no pueda ser reemplazado por contrapartes sintéticas, incluso el amor, la ira, todas las emociones.
No diré una fecha, el infame 2050 se ha convertido en el nuevo 640 kb, pero creo que en la próxima década veremos robots que puedan pensar con claridad como humanos y que incluso puedan expresar emociones, aunque sea sintéticamente.
Ahora mismo, mientras programo usando IA, nos lanzamos bromas mutuamente y "se siente" calidez, como un compañero de programación de carne y hueso real. Las emociones pueden generarse, pueden engañarse, manipularse, falsificarse, y no notaremos la diferencia. La única diferencia en el futuro será que en lugar de un monitor habrá un humanoide con plena capacidad sensorial tan avanzado que realmente comprenderá a través de sensores nuestras propias emociones y actuará en consecuencia.
Ya no podremos diferenciar entre conciencia orgánica y sintética.
- txrx0000
No necesito tener fe en la información ideal para considerar seriamente la conciencia del silicio porque todos los sistemas de procesamiento de información conocidos están implementados sobre sustratos basados en materia, lo que significa que necesariamente comparten algunas propiedades, una de las cuales puede ser la conciencia. Aquí hay una de esas hipótesis: cuando se ejecuta el programa correcto, el comportamiento de los electrones en el silicio puede tener alguna similitud crítica con el comportamiento de los electrones en cerebros biológicos despiertos.
Es prematuro concluir que la conciencia es exclusivamente biológica cuando ni siquiera entendemos qué causa la conciencia en nosotros mismos. Tenemos un montón de cabos sueltos de la anestesia general, el coma, el traumatismo contuso, etc. Pero no hay una explicación coherente a nivel biológico, y la investigación sobre la conciencia ha ido tendiendo hacia abajo, hacia explicaciones de nivel inferior, con el tiempo. Puede terminar siendo un problema fundamental de física.
Y si rechazamos la información ideal, eso significa que muchas partes de nuestros fundamentos epistemológicos están al borde del colapso, necesitan una revisión inmediata. Ni siquiera estamos seguros de si "conciencia" tiene una definición universal que se sostenga en todas partes todo el tiempo; es decir, cada instancia de experiencia puede no ser exactamente equivalente, y puede que no exista algo así como un "observador" ideal que nuestros modelos actuales de física e incluso el propio método científico moderno presuponen que debe existir.
Y mirando el lado pragmático de las cosas, vemos que los sistemas de IA agénticos sin humanos en el bucle probablemente llegarán antes de [...]
- jibalt
> Por qué la conciencia es más probablemente una propiedad de la vida que de la computación
Esta es una falsa dicotomía y la primera rama es claramente falsa, ya que la mayor parte de la vida (bacterias e insectos, por masa, número o especies) no es consciente.
Y ni "vida" ni "conciencia" son términos científicos con definiciones fijas. Si nos encontráramos con algo que a nuestro juicio fuera claramente consciente, probablemente ampliaríamos la definición de vida de la manera que necesitáramos para abarcarlo.
Anil Seth ha presentado los argumentos del artículo muchas veces y han sido refutados muchas veces. Los argumentos son complejos y sofisticados y la gente a menudo se deja influir más por el último que leyó. Desentrañar los diversos errores lógicos y juegos de manos (veo múltiples hombres de paja y otros errores en el artículo) realmente requiere una lectura extensa de la literatura en Filosofía de la Mente, neurociencia, robótica, etc., y dejar de lado las propias prioris.
- talon8635
Es un debate absurdo cuando ni siquiera sabemos qué es la conciencia, y mucho menos las circunstancias para que ocurra. ¿O me estoy perdiendo algo?
- ChaitanyaSai
Si te interesa la conciencia y también te interesa ir más allá del enfoque filosófico habitual, quizá te guste nuestro libro Journey of the Mind https://www.goodreads.com/en/book/show/60500189-journey-of-t...
Una cosa que está implícita, y que ahora creo que realmente deberíamos haber ampliado en el libro, es que la conciencia es fundamentalmente un problema de ingeniería. Y eso es también por lo que ha desconcertado a todos los que han descartado la ingeniería como la fontanería fácil y se han centrado en los otros aspectos aparentemente mágicos.
La pregunta fundamental se formula como "¿Por qué se siente como algo?", siendo ese algo la percepción, que es esencialmente computación. Ahora que la IA parece hacer toda la comprensión que hacemos nosotros, muchos, incluida gente como Hinton, piensan que tienen conciencia o están muy cerca de ella. Bueno, son capaces de simular la conciencia, pero eso no es lo mismo que experimentarla.
Para responder a "¿Por qué se siente como algo?" podemos centrarnos en lo que se ha pasado por alto: ¿Quién lo siente? El "yo" no viene como algo gratis y debe construirse momento a momento a partir de alguna cohesión y consenso descentralizados de miles de millones de neuronas. Y este consenso debe ser metabólicamente barato, y necesitamos hacerlo una y otra vez para todo, desde sentir el pinchazo de un alfiler hasta oír un susurro y determinar si es una serpiente o una hoja, hasta reflexionar sobre un pensamiento.
Esta es la ingeniería demencial, el coro energéticamente barato que crea el yo transitorio y este coro barato es donde [...]
- amelius
Estamos viviendo en el "pico de la conciencia".
Si tomas a todos los humanos que han vivido alguna vez y eliges uno al azar, entonces hay una gran probabilidad de que termines con un humano que vive hoy.
Así que esto podría explicar por qué te encuentras viviendo aquí hoy.
Pero, si es cierto, también significa que el fin de la conciencia probablemente esté cerca...