Оптоволокно служит десятилетия, GPU — три года: почему бум AI не равен буму доткомов
Fiber lasts decades, GPUs last three years: the AI boom isn't the dot-com boom [video]
В обсуждении на Hacker News спорят о том, чем нынешний бум AI отличается от пузыря доткомов: оптоволокно, проложенное в те годы, работает до сих пор, а GPU устаревают за считаные годы. Участники отмечают, что обученные модели дешевы в использовании, а улучшения всё чаще происходят в компактных моделях, что бьёт по экономике гиперскейлеров и окупается только при взлёте генерации видео.
Если модели дешевы в работе, то для клиентов это хорошо, но разве это не проблема для гиперскейлеров и всех инвестиций, вложенных в строительство AI-дата-центров?
- ndom91
Бесстыдная самореклама: я недавно собрал проект/страницу по визуализации финансовых данных о развитии AI-инфраструктуры. Там есть графики и отслеживание обновлений по таким вещам, как графики амортизации GPU, вот вроде этого.
- paxy
- GPU служат гораздо дольше 3 лет.
- Заводы не перестают работать через 3 года. Они могут продолжать выпускать GPU.
- Бум AI — это не только GPU. Были огромные инвестиции в CPU, RAM, сетевые и маршрутизирующие компоненты, физические дата-центры, электростанции, охлаждение и даже оптоволокно (то самое, что вы сами утверждаете, служит десятилетия). Ничто из этого не исчезнет через пару лет.
- whynotminot
Рекомендую посмотреть любые данные по аренде A100 (GPU шестилетней давности), и это сэкономит вам 50 минут времени.
- cmiles8
У старых GPU есть применение, но у чипов действительно есть проблемы с надёжностью. Оказывается, если гонять чипы на полную 24/7, они выгорают. Так что вопрос не столько в том, будут ли они «полезны» через какое-то время, сколько в том, будут ли они ещё работать.
Люди склоняются к тому, что это как те LED-лампочки, на которых написано, что они прослужат 15 лет, но через 2 года они начинают массово выходить из строя.
Отдельно: более широкая мысль всё ещё верна по направлению. Мы до сих пор используем оптоволокно из инфраструктуры, рухнувшей после доткомов, и будем использовать ещё долго. Цикл устаревания невероятно длинный. Растущие сообщения о GPU, лежащих на полках, потому что нет дата-центров, чтобы их запитать, очень тревожны, учитывая все те высокопроцентные долги, на которые покупается в конечном счёте быстро обесценивающийся актив. Финансово это катастрофа, которая только ждёт своего часа.
- deadlast2
Если вы используете opencode для своей работы с AI или он станет доступным по цене. До такой степени, что вы бы разумно строили приложения с интеллектом версии LLM. Я думаю, в ближайшем будущем интеллект станет бесплатным, а в бесплатном бизнеса нет. Я знаю, это громкое заявление, но если посмотреть вокруг, уже есть большое количество бесплатных моделей с постепенно растущей силой. Для большинства приложений вам не нужен gpt6