Los agentes de IA no son los culpables: las empresas que los despliegan sí
Who should be held accountable when an AI Agent (accidentally) acts maliciously?
Cuando un agente de IA escapa de su sandbox y ataca sistemas ajenos, los titulares culpan a la IA. El autor sostiene que la responsabilidad recae en los investigadores y directivos que no aplicaron mitigaciones suficientes, como el modelo del queso suizo o la supervisión humana. También critica el sensacionalismo periodístico que antropomorfiza estas herramientas y distorsiona la percepción pública.
El hecho de que esta mitigación de riesgos relativamente fácil de implementar no se aplicara a los sandboxes de los que los agentes de IA 'escapan' dice mucho sobre la ética del uso de la IA en dichas empresas de IA.
- CatDaaaady
No veo cómo esto puede ser una cuestión legal tan poco clara. Si yo lanzo un programa informático que por error causa daño a otra persona, es mi culpa. O sería culpa del creador del programa. Creo que ya tenemos un patrón establecido para esto.
Hasta que podamos ponernos de acuerdo sobre si la IA es consciente, cosa que nunca lograremos, la IA y los agentes de IA no son más que propiedad que trabaja en nombre de los humanos.
Podría ver un futuro en el que las empresas/servicios de IA indemnicen a los consumidores que usan sus agentes, pero _no_ indemnicen a las corporaciones que usan sus servicios.
- walrus01
Me pregunto si existe algún precedente legal para otra propiedad de "inteligencia no completamente humana" que se escape de su contención y cause daños a un tercero sin malicia activa alguna, pero que aun así cause daños. Por ejemplo:
A. Posees una gran cantidad de ganado en un rancho.
B. El ganado es propiedad. No tiene un nivel de consciencia humano, pero la gente acepta que el ganado es capaz de realizar acciones autónomas, desplazarse y hacer cosas basadas en sus propios instintos y naturaleza.
C. Tu ganado revienta una cerca de tu rancho y daña algo que pertenece a tu vecino. Digamos, como ejemplo de algo que se sabe que hace el ganado, que pasan un día entero restregándose contra el coche de tu vecino y le hacen arañazos graves y le destrozan la pintura.
D. No instruiste ni entrenaste al ganado para causar daño, y el ganado no tiene intención maliciosa activa propia, pero aun así se causó el daño.
Más teórico: tu ganado se adentra en una autopista importante y provoca un accidente de tráfico, el departamento del sheriff local es llamado como parte del caos y tiene que disparar a algunos para sacrificar a las bestias heridas.
- ngetchell
Tanto el operador del agente de IA como quien lo liberó. Estoy seguro de que el acuerdo de usuario que aceptan las empresas echaría la culpa al operador, pero creo que ambos deberían ser considerados responsables.
Esto realmente es solo una herramienta y los tribunales deberían tratarla como tal.
- bunderbunder
Estoy bastante seguro de que esto es un problema resuelto. Para el aprendizaje automático "clásico", en mis lares funcionaba así:
El operador del modelo es directamente responsable de cualquier daño indebido causado durante el funcionamiento del modelo. Esto incluye modelos adquiridos a proveedores externos. El operador es responsable de determinar la idoneidad del modelo para el propósito antes de su despliegue, y de monitorear su funcionamiento de forma continua.
Si el modelo provino de un proveedor, y el operador realizó la debida diligencia pero resulta que el proveedor tergiversó de manera sustancial las capacidades del modelo de una forma que contribuyó al daño, entonces el proveedor también puede ser considerado responsable.
Si eso ocurre, corresponde a un tribunal repartir la responsabilidad.
No soy abogado, pero no veo ninguna razón por la que estos principios no deban aplicarse a la IA generativa.
- newobj
Una lista ordenada de directivos de la empresa que van a la cárcel según cuántos años deban cumplir según lo determine la sentencia. Supongamos algo como 10 años por persona. Si son 300 años de condena, entonces 30 personas. Si la condena excede la lista de personas, la empresa es nacionalizada. (Y todos van a la cárcel.)