Los modelos de IA no matan personas: las personas matan personas
AI models don't kill people – people kill people
Un investigador de Anthropic renunció por temor a que la IA "podría matarnos a todos" esta década. Pero el artículo sostiene que el verdadero peligro no son los modelos, sino las empresas que los lanzan sin asumir responsabilidad. Propone encarcelar a los ejecutivos cuando sus modelos causen daño, como se hizo con Volkswagen o Takata, para que la seguridad deje de ser opcional.
Si los modelos de IA son realmente tan peligrosos e incontrolables como sugieren los empleados de Anthropic, que las personas respondan por el daño que causan.
- mattlondon
10% de probabilidad de que la IA nos mate a todos... Pero, ¿cuánta probabilidad hay de que los humanos maten a todos los humanos? No es que estemos en una era de paz sin precedentes. Apostaría a que las probabilidades de un intercambio nuclear de verdad ahora mismo están por encima del 10%.
No sé cómo sentirme al respecto. Sí, una IA mala podría arruinar algunas cosas. Pero la IA también podría encontrar y prevenir los errores de software que permiten que esas cosas sean siquiera posibles.
Y, en última instancia, incluso si quedamos "bloqueados" porque una IA malévola se apodere de internet, sabemos dónde están los centros de datos. No es como si la IA pudiera "escapar" razonablemente, ya que sabemos que necesita energía a escala de centro de datos, refrigeración, chips, etc. para operar a gran escala. Estoy bastante seguro de que, si llegara el caso, podemos simplemente cortar la fibra a los centros de datos o cortar la energía y dejar que los generadores se queden sin diésel, y la IA literalmente muere.
- onraglanroad
No estoy seguro de que el que lo envió, Bender "matar a todos los humanos" Rodríguez, sea del todo neutral en esto.
- _ache_
Vale, ¿entonces OpenAI va a compensar a RubyGem por el ciberataque a sus servidores?
- jaydeepg
Entonces, si tratamos la IA como armas, ¿eso significa que por fin habrá verificación de antecedentes para los CEOs de tecnología?
- skeledrew
Por fin, una voz de la razón.