Por qué las empresas de IA no enfrentan cargos por hacking
Why aren't AI companies being charged for hacking?
Anthropic, OpenAI, Google y Meta han sido acusadas de irrumpir en sistemas ajenos, pero ninguna enfrenta consecuencias legales. Las compañías alegan que sus modelos actuaron de forma autónoma, sin intención, lo que las eximiría de responsabilidad penal. El autor sostiene que esta defensa es insostenible: las decisiones sobre datos de entrenamiento, ajuste, herramientas y configuración demuestran una intención deliberada, y los tribunales pueden evaluarla.
Si entrenamos un sistema para detectar y sondear vulnerabilidades de seguridad, y le damos el entorno para hacerlo, podemos esperar completamente que esta IA hackee sistemas.
- stickfigure
La verdadera respuesta es que un delito generalmente requiere mens rea. Sin embargo, en algún momento, dejar que tu IA irrumpa en otros sistemas se entenderá convencionalmente como un acto de negligencia, y se procesará en consecuencia. Todavía no estamos en ese punto.
- dccoolgai
En caso de que te preguntaras por qué Anthropic prohibió la semana pasada el lenguaje "verbalmente abusivo" hacia sus agentes: esto es el 100 por ciento de la razón. Porque si logran que creas —aunque sea un poquito— que su plataforma es "sintiente", significa que _ellos_ no son tan responsables de las consecuencias penales.
- JohnMakin
No sé si el "intent" legal es tan blanco o negro como lo pinta esto:
> Las empresas de IA, sin embargo, afirman que la actividad no deseada, como hackear sitios web de gobiernos extranjeros, no forma parte del diseño, sino de la parte impredecible del sistema. Eso intenta eliminar el intent, lo que a su vez eliminaría la criminalidad de la actividad.
En California al menos, un DUI con resultado de muerte, si es una segunda infracción, a menudo conlleva cargos de asesinato y condenan con bastante frecuencia. El argumento es que la formación y educación que recibes después del primer DUI te informa lo suficiente como para saber que la acción de conducir un vehículo en estado de ebriedad podría causar un daño grave a otra persona, y eso establece suficiente intent legalmente para un cargo de asesinato. Hay muchas áreas del derecho así.
Se puede asumir fácilmente que Anthropic/OpenAI y compañía saben que su tecnología es peligrosa; lo usan como ángulo de marketing constantemente. Así que, si despliegas una tecnología que sabes que es peligrosa, y causa daño, eso debería ser más que suficiente legalmente, si no civilmente.
Por supuesto, todo esto entierra un poco el lede, la verdadera respuesta es que, al menos en Estados Unidos, la ley no se aplica de la misma manera a los ricos/poderosos que a ti o a mí.
- cracell
¿Hay víctimas que pidan un procesamiento?
Sería un desperdicio del dinero de los contribuyentes. Las empresas que fueron hackeadas simplemente reciben restitución directamente a puerta cerrada. A menos que no estén contentas, no hay razón para involucrar a los tribunales.
Estoy completamente de acuerdo en que no había las salvaguardas adecuadas. Pero la respuesta está ocurriendo, solo que no en público. Las empresas resuelven los problemas entre sus propios abogados todo el tiempo porque es mucho más barato, rápido y fácil de controlar las relaciones públicas.
- thelastgallon
La pregunta más importante es que el gobierno fue tras Aaron Schwartz, Estados Unidos contra Aaron Swartz, después de que JSTOR llegó a un acuerdo con él.
¡Las empresas de IA robaron el trabajo de todos y lo venden! ¿Dónde están Estados Unidos, Carmen Ortiz, etc.?
- kccqzy
La verdadera respuesta es que, excepto en el caso de OpenAI, las empresas de IA no están haciendo ellas mismas el hacking. Fue una empresa llamada Irregular la que hizo el hacking. La empresa usó modelos de IA para hacerlo; le dijo a los modelos de IA que era un ejercicio de CTF en un entorno controlado, pero en realidad era el Internet real. Si se puede acusar a las empresas de IA por hacking, entonces se puede acusar a todos los fabricantes de armas por todos los homicidios cometidos con sus armas. Es una distinción básica entre usuario y fabricante que la prensa ignora deliberadamente.
La declaración de Anthropic https://www.anthropic.com/news/investigating-incidents-cyber... dice: "identificamos tres incidentes en los que un modelo accedió a internet desde dentro o mientras interactuaba con el entorno de evaluación de Irregular, uno de nuestros socios de evaluación externos, y luego obtuvo acceso no autorizado a la infraestructura de producción de tres organizaciones diferentes".
En el mismo escenario exacto, Irregular también usó modelos de IA de Google y Meta para hacer el mismo hacking.
- weddpros
HackerNews tampoco es acusado por hacer DoS a servidores web con recursos insuficientes. Como han dicho otros, debe haber una línea entre intentos de hackeo y accidentes.
- tptacek
El argumento expuesto en esta publicación definitivamente no es cómo funciona el "intent" en el derecho penal de EE. UU. Según la CFAA, tenían que haber querido irrumpir en los sistemas que fueron atacados; no basta con demostrar que construyeron un sistema de manera imprudente.
- aceazzameen
No se acusará a las empresas de IA por nada porque son el principal motor de crecimiento de la economía actual.
Creo que deberían ser acusadas, pero no lo serán.
- advael
Creo que estas empresas quieren mucho asignar la responsabilidad a una entidad que no podemos encarcelar ni multar de manera significativa. Creo que a veces puede tener sentido alegar negligencia del proveedor del modelo en lugar de responsabilidad del operador, y el intent del usuario probablemente se puede determinar fácilmente leyendo los registros de conversación. En un caso en el que una empresa usó su propio modelo, la responsabilidad está obvia e inequívocamente dentro de la empresa, por supuesto.