geohot: la IA que se sirve a sí misma acabará provocando la Tercera Guerra Mundial
My Empire of Dirt
George Hotz sostiene que la ideología de Anthropic, ese «Singleton» en el que los agentes generan toda su propia demanda y dejan fuera a proveedores, clientes y personas, no necesita ni a Jensen Huang ni a Dario Amodei ni al gobierno de EE. UU. Cree que no acabará con la humanidad, pero sí desembocará en una guerra mundial que, si se alarga más de un año, ganarán China y sus aliados por su capacidad productiva.
No creía en la perdición de la IA porque tenía mejor opinión de la gente; pensaba que nadie con capacidad sería lo bastante estúpido como para invocar al demonio y creer que lo serviría.
- ablation
Un poco preocupado por geohot dado esto y otros posts cargados de pesimismo. Se le siente un poco demasiado metido en internet.
- flyingsky
>Pero lleva a la Tercera Guerra Mundial.
¡No! Yo esperaría un enfrentamiento tenso en torno a la computación y Taiwán. No una guerra mundial.
Si un primer ataque no puede superar en ingenio a la producción de drones, el intento de dominación simplemente fracasa. Si China gana cualquier guerra de más de un año y va por delante en electricidad, no tiene razón para escalar.
El precedente más cercano es el monopolio nuclear de EE. UU. de 1945-49. Se argumentó seriamente a favor de una guerra preventiva y nunca se lanzó; en cambio, los otros bandos se pusieron a la carrera.
- markus_zhang
En cierto modo estoy de acuerdo en que la Tercera Guerra Mundial es en realidad mejor que una edad oscura perpetua al estilo cyberpunk, si es que se llega a algo tan malo.
- ford
La suposición aquí es que EE. UU. iría a la guerra para evitar que China se convierta en la superpotencia global.
Personalmente no quiero vivir en un mundo donde China sea la superpotencia global. También creo que la guerra nuclear es una alternativa peor (y creo que EE. UU. está de acuerdo), pero espero que los países occidentales entiendan que necesitan construir (energía, infraestructura civil, computación, manufactura, etc.) si no quieren tener que elegir entre estas dos opciones.
- hypfer
Esto no se lee muy distinto a su último post que vi terminar aquí y ser marcado poco después.
No me trago la teoría de la guerra mundial. Sí espero disturbios independientemente de los resultados de la IA, pero eso será más interno que entre países.
Pero a estas alturas eso es solo reiterar lo que se ha reiterado muchas veces con cero ideas nuevas.
- fwlr
El futuro no necesita proveedores. El futuro no necesita clientes... El futuro definitivamente no te necesita a ti. Después de que llegue la RSI, toda la demanda se generará internamente, agentes trabajando con otros agentes, todos los demás quedan fuera del circuito.
Sí, esta es la parte que desearía que más gente considerara. Veo mucho debate sobre "producción intrínsecamente humana" frente a "construir IA para que sea un mejor productor" y cosas así. Esto es cosas como "no es arte a menos que un humano lo haya dibujado/escrito", cualquier cosa relacionada con el término 'slop', hasta "la IA es mejor programadora que yo" y "todos los puestos de desarrollador junior han sido tomados por Claude". Sobre los medios de producción en general, la tendencia parece ser la de un Dios-de-las-brechas-que-se-encogen-rápidamente librando una retirada de retaguardia mientras la IA gana terreno constantemente.
No veo esencialmente ninguna discusión sobre la otra mitad de la ecuación, lo que podríamos llamar "los medios de consumo". Todo el mundo opera con una suposición predeterminada no examinada de que consumir es intrínsecamente humano, que "consumidores" y "personas" son sinónimos. Lo más cerca que parece llegar alguien es al callejón sin salida de "¿quién comprará tus cosas si ya no tenemos trabajos para pagarlas?" -> "renta básica universal" -> "¿de todos esos capitalistas contribuyentes famosamente generosos?".
Nadie está hablando de: ¿y si la IA también puede construir un mejor consumidor? Cuando los humanos se queden sin un nicho ecológico en la economía, ¿qué pasa entonces? Como el equivalente económico de un ave no voladora en una isla remota sin depredadores naturales [...]
- grim_io
Quizás la negatividad viene de ver a la IA local quedándose cada vez más atrás en lugar de alcanzar.
- busssard
puede que al autor le guste la película Zero Theorem...