GPU World: cuando cada persona tenga un LLM de frontera 24/7
El mundo es pobre en GPU: solo unos pocos millones se fabrican al año, lo que limita el acceso a los mejores modelos de IA. Pero para 2040 podrían existir 8 mil millones de GPUs, dando a cada persona el equivalente a un B300 y un LLM de frontera como Fable o Sol. GPU World invita a imaginar ese futuro 'mundano' donde la IA no se vuelve superhumana, pero sí ubicua. ¿Qué pasará con la educación, la salud, las redes sociales y el mundo en desarrollo?
La IA tal como la conocemos ya tiene el potencial de ser mucho más transformadora que el teléfono inteligente o quizás incluso que el propio Internet.
- maxnevermind
> Algún día, como en 2040, puede haber disponible, para cada ser humano, el rendimiento equivalente a 'una GPU B300 para LLM contemporáneos'. ¿Cómo sería ese mundo?
Si hablamos solo de LLM, dado cómo han ido las cosas desde ChatGPT, apostaría a que no cambiaría mucho. Los LLM no son tecnología fundacional como Internet, la máquina de vapor o los ferrocarriles. Hay muy pocos productos que puedan construirse sobre ellos debido a problemas de fiabilidad que son completamente irresolubles para los LLM; los chatbots son un producto decente que surgió de ello, los entornos de codificación son otro, y esto ni siquiera se acerca al impacto que tuvieron Internet o la máquina de vapor. Los LLM nos dieron buenas herramientas de productividad para trabajadores del conocimiento expertos y muy motivados, eso es todo. Los LLM están mejorando y mejorarán, pero es imposible describir el universo y comprimirlo en unos pocos terabytes, y eso es lo que están haciendo efectivamente en la actualidad, así que todos los problemas serios de los LLM seguirán ahí en 2040: la falta de aprendizaje continuo, las alucinaciones, la pésima proporción de muestras, los fallos de los agentes en tareas de horizonte largo y los fallos en el seguimiento de instrucciones.
- NitpickLawyer
Acabo de terminar de leer Service Model de Adrian Tchaikovsky [1], una novela muy oportuna que trata muchas preguntas abiertas sobre IA, robots, humanidad, control, autodeterminación, etc. La recomiendo mucho si te gustan este tipo de cosas.
> Premisa
Imagina que el progreso de la IA de frontera se detiene a partir del 1 de septiembre de 2026: la IA se vuelve más rápida y barata, pero nunca se vuelve sobrehumana ni mejora considerablemente en todos los ámbitos.
Me encanta esta premisa. Escribí un comentario hace unos días sobre esto mismo. Tuve esta 'revelación' a principios de 2024, cuando usaba un pequeño modelo local, de que incluso si los modelos nunca mejoraran, aún tendría unos años descubriendo todas las cosas que podría hacer con ellos.
Muy genial, ojalá obtengamos algunas historias interesantes y no abrumadoramente pesimistas de este proyecto. Ya hay suficiente cinismo y negatividad en el mundo. Nos vendrían bien algunas versiones divertidas de todos usando openclaw2040 dirigido por fable. Muchas travesuras.
[1] - https://www.goodreads.com/en/book/show/195790861-service-mod...
- rixed
Desde los albores de la industria, la gente se ha maravillado con las nuevas posibilidades y cómo afectarían a la sociedad una vez que se distribuyeran de manera uniforme. El progreso técnico ha seguido su curso, filtrándose en todos los lugares y hasta cada persona. Sin embargo, nunca se ha distribuido 'uniformemente'.
¿Qué pasaría cuando todos tuvieran acceso a Internet? ¿Cuán diferente sería el mundo cuando todos llevaran una computadora en el bolsillo? ¿Pudieran comunicarse con cualquiera sin importar la ubicación y el idioma, sin intermediarios? Esas eran preguntas que solíamos hacernos no hace mucho tiempo.
Resultó que: no cambió mucho.
Para que el futuro se distribuya uniformemente, tendrán que ocurrir cambios mucho más grandes que la fabricación a gran escala de GPUs eficientes. De lo contrario, la tecnología solo se usará para asegurar que el progreso y el conocimiento sigan distribuidos de manera desigual. Ese es todo el juego de pastorear humanos, después de todo; se llama 'escasez organizada'.
- ezoe
No todos los humanos tienen la misma alfabetización y antecedentes industriales.
Para usar los modelos actuales de IA SaaS de primer nivel para codificar, los usuarios deben escribir indicaciones de texto. Hay una clara diferencia de resultados entre programadores y no programadores.
La generación de imágenes y música tiene exactamente la misma brecha de habilidades.
Así que la mayoría de los humanos no usarían la IA directamente incluso si estuviera disponible para los 8 mil millones de personas.
Pero realmente dudo que lleguemos a que todos los humanos usen IA.
Las estimaciones actuales dicen que el 80% de la población mundial tiene un teléfono móvil. El 50% tiene un teléfono inteligente. Incluso el teléfono móvil no ha alcanzado el 100% de penetración, ¿cómo podría la IA con la calidad de los mejores modelos actuales alcanzar el 100%?
- not2b
Con suerte, en este mundo, alguien descubre cómo entregar el rendimiento equivalente a una GPU B300 con aproximadamente 1/100 de la potencia de una B300 actual (que puede ser de hasta 1400 vatios), o el mundo se horneará.
- jdub
Se permite el uso de LLM, pero se desaconseja; [...] Solicitamos la divulgación del uso de IA.
Je. En el futuro, imagino, esto sería vergonzosamente redundante. 'No harás una máquina a semejanza de la mente humana.'
- divbzero
Un comité de selección bastante interesante:
Neal Stephenson
Gwern Branwen
Matt Huang
- markoutso
> Se permite el uso de LLM, pero se desaconseja; recordamos a los participantes que el uso de LLM tiende a reducir la originalidad y la calidad de la escritura, y los defectos son especialmente obvios cuando las salidas de LLM se leen en grupo---el uso poco hábil de LLM reducirá las probabilidades de ser la mejor entrada. Solicitamos la divulgación del uso de IA.