Сэм Альтман считает, что держать DRAM в личных компьютерах — ужасная идея
Sam Altman Thinks You're Wasting DRAM
На фоне дефицита памяти, из-за которого дорожают ПК, консоли и смартфоны, глава OpenAI Сэм Альтман заявил в подкасте Cheeky Pint, что с точки зрения глобального распределения ресурсов неправильно, когда у каждого человека лежит часть мирового запаса DRAM и используется лишь на 5% времени. По его мнению, максимальную отдачу даёт облако, а не локальный инференс. Также он рассказал о разработке собственного чипа Jalapeno, который проектирует ИИ для ИИ.
С точки зрения глобального распределения на самом деле довольно ужасно, когда у всех есть куча мирового ограниченного запаса DRAM, стоящая в их собственном компьютере и используемая лишь на 5% времени.
- logancbrown
Два утверждения могут быть верны, и он озвучил одно из них. Сэм не ошибается.
1. Локальный инференс может приводить к значительному недоиспользованию ресурсов пользователями, которые не загружают локальное оборудование для инференса на полную мощность в течение срока его службы. Это недоиспользование, а недоиспользование не оптимально с экономической точки зрения.
2. Концентрация оборудования для инференса у отдельных провайдеров может сосредоточить власть в руках отдельных систем или организаций, и их интересы могут не совпадать с интересами отдельных пользователей.
Та же динамика власти и экономическая борьба существовали почти везде на протяжении всей истории. Например, если вы хотите решить, владеть или арендовать единицу тяжелой строительной техники для бизнеса, вы найдете длинный список запретов в условиях договора аренды, но вы более чем вправе купить собственную и эксплуатировать свою технику по цене в несколько раз выше за час использования и использовать ее как хотите.
- VariousPrograms
Парень с самым большим объемом DRAM в мире считает ужасным, что у него нет всей DRAM.
Было бы эффективнее запретить автомобили в пользу общественного транспорта. Было бы эффективнее, если бы люди жили только в многоквартирных домах, а не в отдельных домах. Массу вещей можно сделать более «эффективными», если отнять у людей стремление к приватности и собственности.
- lrvick
[помечено]
- TheJCDenton
Он прав в настолько узкой области по этому конкретному вопросу, что это просто идеальный пример того, что не так со многими вещами в последнее время.
OpenAI спровоцировала эту передрягу своим заказом на 900 тыс. пластин DRAM в месяц в октябре 2025 года, заставив всех паниковать, потому что это было около 40% мирового производства на тот момент.
Мы все знаем, что производители памяти знают, каково это — быть на грани банкротства, когда они слишком много инвестируют, но прямо сейчас у SK Hynix маржа 80% (то есть у TSMC ~60%), и они решили выплатить своим акционерам в этом году сумму, эквивалентную ВСЕЙ их выручке в 2025 году. Теперь благодаря Samsung общеизвестно, что темпы строительства заводов не максимальны, чтобы защитить их маржу. И производители памяти уже были оштрафованы в 2000 году за ценовой сговор.
Поставки ограничены, потому что они все решили сделать их такими.
- bugake
Альтман: Вы можете вложить небольшую часть своего состояния в то, чтобы крупные разработчики ПО писали более эффективный код, который перестанет тратить нашу оперативную память. Начните с интернет-браузеров и приложения Windows 11, которое тратит гигабайт на показ погоды.