Una renuncia convirtió las brasas del miedo a la IA en un incendio forestal
One resignation turned the embers of AI fear into a wildfire
La renuncia de Jacob Coxon, un investigador de IA que citó riesgos de seguridad, se viralizó porque el terreno ya estaba seco: los avances de OpenAI y el incidente con HuggingFace elevaron las apuestas. El miedo vende y las visiones extremas de extinción masiva llegaron a las masas. El autor analiza el papel de los laboratorios, la coordinación mediática y por qué el riesgo existencial opaca amenazas más concretas como los ciberataques.
El miedo es la historia más simple, esa de la que la gente no puede apartar la mirada.
- qurren
Soy ingeniero de IA y siento algo parecido.
También siento la necesidad de acumular riqueza a niveles de jubilación lo antes posible antes de que todo esto se venga abajo, y luego mudarme a otro lugar lejos de este desastre.
La única buena forma que tengo de hacer eso es seguir trabajando en IA, porque nada más para lo que tengo habilidades paga tan alto.
- mcast
Parece profundamente sospechoso que una empresa que se beneficia de la captura regulatoria avive artificialmente los miedos sobre la IA y la propaganda al respecto.
- enyone
El aumento de los precios de la energía bajo el creciente consumo eléctrico de los centros de datos de IA y el uso derrochador de agua limpia en su refrigeración son MIS menores preocupaciones respecto a la IA.
Lo que me preocupa es la escala del daño cuando ocurra.
Por ejemplo, antiguamente, cuando alguien quería espiar el teléfono de otra persona, necesitaba una proporción de 1:1 en número de personas: una manteniendo la conversación y otra transcribiéndola. Luego hacían falta más personas para interpretar esa transcripción y sacar conclusiones, quizá incluso decidir qué venía después. Esa no es la realidad en la que vivimos hoy. La escala actual de las capacidades de procesamiento y almacenamiento de datos hace que la proporción sea de 1:8298979488 (IA:todo el mundo). No quiero que lleguemos a tener nunca toma de decisiones por IA sobre esas transcripciones con esa misma proporción. La posibilidad parece claramente estar ahí pronto.
Otro ejemplo: antiguamente, cuando alguien quería hurgar en un sistema vulnerable, necesitaba una proporción de 1:1 en número: una persona con tiempo para hurgar en un sistema a la vez. No quiero saber cuántos sistemas críticos y vulnerables tenemos hoy funcionando en este planeta conectados a la misma red en la que corren estos agentes de IA. Sí, con el tiempo puedes usar IA para encontrar y parchear esas vulnerabilidades, pero la escala y la velocidad para hacer daño (explotar todos los sistemas a la vez) es el problema aquí.
- kidder
He oído muchos de los argumentos de los agoreros de la IA, incluido Superintelligence de Bostrom.
Pero aún me cuesta tomárselos en serio. Estos argumentos parten de supuestos razonables y luego los proyectan de forma desmedida. Los LLM actuales son potentes y pueden usarse peligrosamente. Es razonable aceptar unos cuantos años tumultuosos de cambio. Pero no veo que puedan llevar razonablemente a una perdición que acabe con la civilización.
¿Están los agoreros dentro de la industria de la IA demasiado ansiosos? ¿O me estoy perdiendo algo?
- neom
Superintelligence de Bostrom salió en 2014; recomiendo leerlo. En su momento pensé que era algo de la mejor ciencia ficción que había consumido, y no pensé que fuera a ser un debate público en mi vida. Lo que me parece interesante es que gente respetada y con conocimiento lleva años diciendo esto en la televisión y en los medios mainstream; Jack Clark ha estado frente al Congreso varias veces. ¿Qué cambió en este mensaje en particular que lo hizo tan cautivador? Mi hermana pequeña me escribió anoche y me preguntó: "¿De verdad la IA puede matarnos a todos? ¿Por qué no podemos simplemente desenchufarla?". ¡Tiempos interesantes...!