Sam Altman dice que tener DRAM en tu PC es un desperdicio global
Sam Altman Thinks You're Wasting DRAM
En medio de la crisis de memoria que dispara los precios de PCs y consolas, el CEO de OpenAI sostiene que la inferencia local es un error de asignación: esos 32 GB de RAM en tu computadora se usan apenas el 5% del tiempo. Según Altman, la DRAM limitada del mundo debería concentrarse en datacentres para maximizar su utilización, mientras OpenAI compra hasta el 40% de la producción global y diseña su propio chip, Jalapeno.
Desde una perspectiva de asignación global, en realidad es bastante terrible que cada persona tenga un montón de la limitada oferta mundial de DRAM en su propia computadora y que se use solo el 5% del tiempo.
- logancbrown
Dos afirmaciones pueden ser ciertas y él enunció una de ellas. Sam no está equivocado.
1. La inferencia local puede provocar una gran infrautilización de recursos por parte de usuarios que no ejecutan hardware de inferencia local a plena capacidad durante la vida útil del hardware. Esto es infrautilización y la infrautilización no es óptima desde una perspectiva económica.
2. La concentración de hardware de inferencia en proveedores únicos puede agregar poder a sistemas u organizaciones individuales, y sus incentivos pueden estar en conflicto con los de los usuarios individuales.
La misma dinámica de poder y lucha económica ha existido en casi todas partes a lo largo de la historia. Por ejemplo, si quieres decidir si comprar o alquilar una pieza de maquinaria pesada de construcción para un negocio, encontrarás una larga lista de prohibiciones en los términos contractuales del alquiler, pero eres más que bienvenido a comprar tu propia maquinaria y operarla tú mismo a varias veces el precio por las horas de uso y usarla como quieras.
- VariousPrograms
El tipo con más DRAM del mundo piensa que es terrible que no tenga toda.
Sería más eficiente prohibir los coches en favor del transporte público. Sería más eficiente si la gente solo viviera en complejos de apartamentos en lugar de casas independientes. Toneladas de cosas pueden ser más "eficientes" si les quitas a las personas su deseo de privacidad y propiedad.
- lrvick
[flagged]
- TheJCDenton
Tiene razón en un espacio tan estrecho en este asunto particular que es simplemente un ejemplo perfecto de lo que está mal en muchas cosas últimamente.
OpenAI desencadenó este calvario con su pedido de 900K obleas de DRAM al mes en octubre de 2025, haciendo que todos entraran en pánico porque era alrededor del 40% de la producción mundial en ese momento.
Todos sabemos que los proveedores de memoria saben lo que se siente al estar cerca de la bancarrota cuando invierten en exceso, pero ahora mismo SK Hynix tiene márgenes del 80% (es decir, TSMC ~60%) y elige pagar a sus accionistas este año el equivalente a TODOS sus ingresos en 2025. Ahora es conocimiento común gracias a Samsung que la tasa de construcción de fábricas no es máxima para proteger sus márgenes. Y los proveedores de memoria ya han sido multados en 2000 por fijación de precios.
La oferta es escasa porque todos eligen hacerlo así.
- bugake
Altman: Eres bienvenido a invertir un poco de tu fortuna en hacer que los principales desarrolladores de software escriban código más eficiente que deje de desperdiciar nuestra RAM. Empieza con los navegadores de internet y la aplicación de Windows 11 que desperdicia un gigabyte mostrando el clima.