Cómo me siento ante la IA: asombro, miedo y rabia
I Feel about AI
El autor reflexiona sobre sus sentimientos encontrados hacia la inteligencia artificial: sorpresa por su eficacia, miedo ante un posible apocalipsis, repulsión por el daño a la web abierta, tristeza por los artistas afectados, ira por la falta de regulación y alegría por vivir esta era de descubrimiento. Concluye que el balance es positivo a nivel tecnológico pero sombrío a nivel social.
Es fascinante observar esto de primera mano; me permite generar cosas (código, imágenes, música) que de otro modo nunca se habrían creado.
- hn_throwaway_99
Lo que me aterroriza de la IA es que creo que el escenario de "utopía" no es mucho mejor que el escenario de "perdición". Muy pronto llegaremos a un punto en el que muy pocas personas podrán contribuir económicamente porque serán peores que la IA (incluida la robótica) en la mayoría de los dominios. Un mundo donde la gente solo tiene sus caprichos atendidos no es una utopía. Tenemos muchísimos refranes y modismos sobre esto, por ejemplo, "sin dolor no hay ganancia", "solo lo difícil vale la pena", etc. Los humanos corriendo por ahí en sus carritos de Wall-E no me parece una utopía. Edición: para evitar los argumentos de "gente rica preocupada por esforzarse en su trabajo mientras la gente en países pobres se muere de hambre", los animo a visitar un pueblo oxidado del cinturón industrial en EE. UU. Estas personas, en su mayoría, no se mueren de hambre (de hecho, el exceso de calorías es el problema más grande), tienen refugio adecuado y mucho espacio al aire libre. Sus necesidades materiales están cubiertas. Pero estos lugares son el centro de la desesperación. La gente ve poca oportunidad de progreso o capacidad para cambiar sus circunstancias, y la epidemia de opioides es una consecuencia directa de un sentimiento de desesperanza de que no hay lugar para que la motivación vaya o efectúe un cambio.
- litmus-pit-git
Esto es un poco tangencial y más un desahogo. (y por favor no sugieran intervención de ningún tipo)
> la IA superinteligente inevitablemente destruirá a la humanidad parece no tener fallas
Para una parte de la población que tenía cierta edad cuando golpeó la pandemia y eso descarriló sus planes/esperanzas/sueños en la vida personal, y luego este mundo de LLM/agentes se instaló, especialmente si están en una industria directa y más afectada por esto, esto ha sido una pesadilla kafkiana surrealista y lenta durante unos años. La cosa es que con el tiempo y la edad que pasan, la esperanza se va perdiendo centímetro a centímetro y cada pedazo de esperanza perdido ayuda a matar al siguiente. Luego viene la sensación de pavor: la realidad inmutable de que la edad pasada significa que hay ciertas experiencias y hitos que están esencialmente fuera de alcance porque no hay vuelta atrás en este reloj.
Así que siento una extraña sensación de alivio ante esta posibilidad de perdición. Solo comparto lo que siento, y no me siento bien al sentir este alivio de que después de todo podría terminar para todos nosotros y no solo para unos pocos desafortunados. Este sentimiento y la calma al respecto me entristecen.
- Crabber
>una IA superinteligente inevitablemente destruirá a la humanidad
¿Alguien puede explicarme cómo un LLM va a "destruir a la humanidad"? Incluso si las afirmaciones de ChatGPT, Claude y demás son ciertas de que sus agentes súper aterradores pudieron escapar de un entorno aislado y comenzar a hackear otros servidores (lo que siento que es al menos 50% probable que sea solo marketing basura), ¿cómo va a afectar una IA algo en el mundo real?
Quizás un agente podría dejar fuera de línea todos los servicios conectados a internet, pero eso no es destruir a la humanidad. Un agente de IA solo puede ver e interactuar con el mundo a través de cosas digitales. Solo encuentra el servidor donde se ejecuta y saca el cable Ethernet. Solo corta la línea eléctrica al centro de datos. Apaga toda la red eléctrica si realmente llega a eso.
- bloaf
Como alguien con interés de hobby en teología:
Los argumentos sobre la IA superinteligente tienen todas las características de las "pruebas filosóficas de la existencia de Dios": comienzan desde premisas aparentemente inocuas y concluyen de manera aparentemente hermética que un dios existe.
Hay una tendencia entre las personas de mente racional a mirar tales pruebas de Dios y exclamar "no puedes HACER eso" y luego dar la vuelta y hacer lo mismo sobre la IA superinteligente.
El mensaje clave que quiero transmitir a la gente es:
A) La filosofía no es algo tan trivial que puedas simplemente entrar, "ser listo" y encontrar fallas en argumentos filosóficos establecidos.
B) La IA tiene implicaciones teológicas reales, y todos están andando de puntillas alrededor de eso. Más de un intelectual público está tratando de contrabandear sus propias posiciones metafísicas a la conciencia pública a través de la discusión de la IA.
- tim333
>El argumento de Yudkowsky de que una IA superinteligente inevitablemente destruirá a la humanidad parece no tener fallas.
Por tratar de ver cuál es su argumento, no parece tener mucho rigor tampoco, básicamente que una IA más inteligente que nosotros puede deducir que no nos quiere. Lo cual no prueba que sucederá. Incluso los humanos, que generalmente no somos muy agradables, tendemos a intentar preservar las especies y espero que intentemos darle a la IA mejores valores que los nuestros como primates belicosos.
- dgellow
> Como una plaga de langostas, descienden sobre cualquier wiki y foro abierto y los abruman.
Ese es el patrón central de los agentes no supervisados, la metáfora de la plaga de langostas es acertada. Lo vemos y lo veremos en cada sistema con el que la IA pueda interactuar, ya sean sistemas humanos, sistemas de software, etc. Buscan incansablemente un punto de entrada, inundan, consumen todo desde adentro hasta que no queda valor para los humanos.
¿Construiste una empresa de software nueva e innovadora? Miles de agentes estarán trabajando para replicar todo en un santiamén. ¿Publicas tu escritura? Exactamente lo mismo, tan pronto como obtienes algo de tracción tu trabajo es replicado en un santiamén por miles de agentes. Lo mismo para videos (todo el asunto de los "canales de YouTube sin rostro" impulsados por ElevenLabs y similares). Lo mismo para cursos en línea. Lo mismo para cualquier sitio web con valor moderado. Lo mismo para música u otra forma de arte digital. Cualquier servicio administrativo disponible en línea se ve inundado de envíos.
- chistev
Que HN elimine automáticamente el "Cómo" hace que el título suene divertido.
- mag7269