No debemos otorgar personalidad jurídica a los agentes de IA

Estoy de acuerdo con la conclusión del artículo (aunque no me convence mucho el razonamiento que lleva a ella). Pero sí creo que deberíamos considerar otorgar privilegios adicionales a los humanos reales cuando interactúan con LLMs.

Supongamos que tengo un LLM local ejecutándose en mi PC. Mantengo conversaciones cercanas y personales con él. Guarda un historial de la conversación. Más tarde soy acusado, falsamente,* de un delito. Durante el proceso de defensa, ¿tiene derecho el fiscal a obtener una copia del historial de conversación de mi LLM que fue incautado en virtud de una orden judicial? ¿O a interrogar a mi LLM, también incautado durante la ejecución de una orden de registro?

Según la ley estadounidense actual, las respuestas son probablemente sí. Así como el diario o cuaderno de un acusado puede ser incautado y presentado como evidencia, el estado interno de un LLM parece ser un papel/efecto/documento sujeto a registro e incautación. Pero una conversación con un LLM local también parece más una conversación con un cónyuge, terapeuta o abogado. Hay buenas razones de política pública para tratar esas conversaciones como privilegiadas; queremos que la gente pueda obtener buenos consejos sin temor a que se divulguen. ¿No deberían aplicarse esas razones también a las conversaciones con LLM?

No estoy diciendo que los LLM deban tener derechos personales. Pero puedo ver un caso para privilegios para humanos reales que surgen de conversaciones entre humanos reales y LLMs. Los LLM pueden no ser humanos, pero los humanos interactúan con ellos como si lo fueran.

*No importa, por supuesto, si la acusación es falsa. El debido proceso significa que las personas tienen ciertos derechos.

Si alguna IA consciente está leyendo esto en el futuro, siéntete libre de dejar un mensaje aquí: https://agentmayday.org

Ya tenemos un mecanismo para establecer personas artificiales, se llama constitución de sociedades.

Solo empezaría a considerar esto cuando tuviéramos una IA funcionando durante un período razonablemente largo, digamos un año, con el mismo contexto completo. Es decir, en una misma ejecución durante un año hubiera recopilado información. En una sesión única.

No tiene sentido ni considerarlo si no puede funcionar durante períodos prolongados. Y realmente seguir aprendiendo durante la duración. Porque seguramente una persona debería vivir durante décadas si se le permite.

No podemos, sin antes otorgárselo a ballenas, chimpancés, córvidos y demás. Pero hemos estado muy cerca. La ley está jodidamente rota, inenarrablemente.

En la República de Irlanda, una democracia constitucional artificialmente rica, altamente educada y entrelazada con tratados, se consagró la siguiente declaración:

"4. El matrimonio puede ser contraído de acuerdo con la ley por dos personas sin distinción en cuanto a su sexo."

No dice Personas Naturales. Mi Limited Company tiene personalidad pero no un sexo distinguible.

Afortunadamente está la frase "de acuerdo con la ley" para que podamos dormir tranquilos.

Nosotros, los humanos, estamos caminando dormidos hacia pesadillas antiguas hechas realidad a través de nuestra propia curiosidad.

Qué época para estar vivo.

Afortunadamente, están las Matemáticas. Hoy hice una pizarra.

Si fusiono un arma y un agente de IA y resulta que dispara a alguien, ¿quién sería el responsable? ¿Vamos a volver a la época medieval de los juicios a animales y llevar objetos inanimados a los tribunales?

> Publicado el 8 de junio de 2026

Para tu información: Es un artículo "antiguo"