La IA es una amante severa: el dilema de las máquinas conscientes
AI Is a Harsh Mistress
Un artículo de opinión en CACM explora el controvertido tema de la conciencia en las máquinas, examinando cómo la aceptación social ("herd acceptance") y la política influyen en nuestra percepción de la IA. El autor analiza el concepto de "anima machina" y advierte sobre las implicaciones éticas y sociales de tratar a las máquinas como seres conscientes, planteando preguntas sobre la responsabilidad y el futuro de la interacción humano-máquina.
La IA es una amante severa: nos da exactamente lo que le pedimos, pero a menudo no es lo que realmente necesitamos.
- matherial
Esto parece un ensayo generado 100% por IA, no es el primero de ACM y no será el último. Tú decides si quieres pasar el día leyendo y discutiendo con el artículo; el autor presumiblemente no lo hizo.
- sebmellen
Últimamente he estado leyendo La Luna es una severa amante y me ha impactado lo profético que es. Me sorprende no haber leído más sobre ello en el contexto de la IA actual.
- GPerson
«Gran parte del discurso actual sobre la conciencia de la IA no se basa en evidencia empírica sino en funcionalismo...»
En mi opinión, nunca puede haber una prueba empírica de la conciencia, porque el funcionalismo está equivocado. Si el funcionalismo fuera correcto, existiría tal prueba. No hay una prueba de terceros para un fenómeno fundamentalmente de primera persona.
- entropyneur
La idea de que corremos el peligro de atribuir erróneamente conciencia a la IA me parece descabellada. Los humanos siempre asumimos lo que nos conviene sobre la (falta de) experiencia subjetiva de otros seres mientras tengamos poder sobre ellos. En este caso, lo último podría dejar de ser cierto, pero entonces no importará en absoluto lo que pensemos.
- xg15
> La conciencia, en el uso de Chalmers, es experiencia subjetiva: hay algo que se siente al ser un sistema consciente. Aun así, nada en la arquitectura Transformer ni en la predicción de la siguiente palabra muestra que exista ese punto de vista interno. Los autoinformes («soy consciente») y el diálogo fluido son evidencia débil, ya que estos modelos se entrenan con vastos corpus saturados de declaraciones humanas en primera persona. Este tipo de informe verbal funciona en las personas porque está anclado en la biología y el comportamiento compartidos; sin embargo, en las máquinas es un eco de los datos de entrenamiento.
No quiero argumentar aquí que los LLM tengan conciencia, pero este tipo de argumento me molesta porque me parece un juego de manos intelectual en sí mismo.
No hay una forma definitiva (hasta ahora) de demostrar que cualquier cosa además de uno mismo tiene qualia o experiencia subjetiva.
Así que argumentar que no podemos observar que los LLM tengan experiencia subjetiva, por lo tanto no pueden tenerla, es barato: tampoco puedes observarla en los animales ni en la persona sentada a tu lado.
La parte de que los autoinformes son inútiles y que los LLM suenan humanos porque emiten secuencias de datos de entrenamiento humanos es correcta. Pero el artículo implica algún tipo de distinción fundamental entre máquinas y seres conscientes que nunca puede cruzarse. Y no veo ninguna razón para asumir eso.