El autor explica por qué pasó de optimista a alarmista sobre la IA
The Education of a Doomer
En este ensayo personal, el autor narra su transformación de entusiasta de la IA a 'doomer'. Analiza cómo sus creencias sobre economía, alineación y control cambiaron, y señala la proliferación de escritos generados por IA, la degradación del discurso en ingeniería de software y la tendencia a delegar decisiones en asistentes como evidencia de una posible pérdida de control humano. También reflexiona sobre el estancamiento tecnológico y la esperanza que la IA representaba para el futuro.
Si estamos automatizando incluso nuestros vicios, ¿qué queda?
- rahulyc
No estoy seguro de qué pasará (creo que nadie lo está), pero con cualquier otra tecnología, puedo optar por no usarla si no quiero.
Incluso si me quedo sin empleo, no veo cómo puedo optar por no participar cuando todo el mundo, en todas partes, la usa.
Históricamente, los gobiernos han considerado a los humanos como activos; incluso se les llama "capital humano", y nos necesitan para los ingresos fiscales y para administrar el Estado. ¿Qué ocurre cuando ya no nos necesitan? Incluso si la IA está mágicamente alineada con el Estado, no veo cómo salgo ganando. No es como si hoy tuviéramos voz en cómo se nos impone esto. ¿Por qué iba a mejorar cuando la IAG pueda hacer todo lo que los humanos pueden hacer? ¿Qué nos sigue dando voz en el mundo?
- skybrian
> ¿Cuál fue la última decisión importante de tu vida que tomaste sin consultar al menos a una IA?
Esto parece preguntar cuál fue la última decisión importante que tomaste sin hacer al menos una búsqueda en la web. No hay nada malo en hacer una búsqueda. El problema es cuando confías demasiado en lo que lees, sin verificarlo.
- ArcHound
El problema con la devaluación del trabajo humano es que la automatización no tiene que ser real. Todo lo que se necesita es que casi todos los empleadores acuerden que un trabajo en particular puede pagar menos.
Y ese es el caso hoy: que la nueva IA sea un reemplazo suficiente para programadores es suficiente declaración para hacer despidos con ganancias récord sin impacto en los precios de las acciones.
- throwawayk7h
> si los humanos son económicamente inútiles, el Estado no los necesita. ¿Por qué pagar una renta básica universal a personas que no tienen poder económico ni político?
Perdón si soy ingenuo. Pero ¿no votaría la gente por la RBU en este caso?
- aranelsurion
> ¿y si GPT-3 no hubiera funcionado? ¿Qué tendríamos que esperar en este 2026 alternativo?
Uno esperaría que tal vez cosas aburridas como atención médica, mejores condiciones de vida, sociedades que funcionen mejor, etc.
Ciertamente no tan emocionante como los autos voladores y las máquinas pensantes.