Почему пузырь ИИ может оказаться мифом: Anthropic зарабатывает $2,08 на каждый $1 вычислений

Железные дороги, полупроводники, пластмассы, сети... полезность была у всех них, и потенциальная прибыль тоже.

Все это знали.

Но у одних инвесторов не хватает терпения дождаться, пока эти «верняки» дозреют до своей коммерческой судьбы, а другие знают, что могут урвать куш, спекулируя на них.

Эти пузыри не о потенциале, они о времени.

И сегодняшний ИИ, каким бы революционным он ни был, зреет так же долго, как и всё в прошлом.

Большинство главных игроков, участвующих в ИИ сейчас, разбогатеют. И через 20 лет мир будет включать много ИИ в оооочень многих вещах. Но много рубашек будет потеряно ниже этих главных игроков, и много компаний сложится, потому что инфраструктура, доработка и интеграция требуют времени, в то время как спекуляции из страха упустить выгоду начинаются, как только распознано большое открытие.

Когда я смотрю на текущие возможности ИИ, мне действительно кажется, что есть огромный потенциал для использования передовых моделей, который просто ещё не применён. Большинство (а может, даже все) программисты и математики хуже в своей области, чем рой ИИ, оснащённый хорошей обвязкой, и к тому же значительно дороже.

Это странный вывод. Насколько я знаю, в математике это пока работает не так, как говорится в статье: есть проблема, на неё натравливают рой агентов, и отмечают как решённую. Математические результаты от OpenAI и Anthropic были достигнуты путём засеивания поверхности известных проблем и случайных попыток вырастить решения; хотя они действительно получили некоторые хорошие решения, это не значит, что текущие LLM будут работать для произвольных математических задач.

Поправьте меня, если я ошибаюсь, я всего лишь студент-математик и отнюдь не исследователь.

Что касается программирования, я думаю, автор уже говорит, что автоматизированные решения требуют хорошей обвязки, и это действительно верно, но по моему опыту создание хорошей обвязки — это тяжело, и агенты не могут делать это сейчас без тесного руководства человеком. А в практике программирования до LLM обвязка вообще не была нужна, или нужна была лишь малая её часть: так что решение задач программирования с LLM требует больше работы, чем без LLM, даже если большую часть этой работы можно автоматизировать.

Остальная часть статьи, похоже, представляет собой в основном спекуляцию, основанную на предпосылке, что LLM действительно может заменить человека в цикле, что, похоже, на данный момент не так.

> Прибыль может расти, и сильно

Упоминается прибыль, но затем обсуждается только выручка. Выручка != Прибыль. Выручка может расти, да, но этап экспериментов и максимизации токенов заканчивается, и начались ценовые войны, так что я не уверен насчёт роста прибыли. AI-лаборатории не обязательно смогут захватить маржу (>>Китай<<), возможно, компании/потребители захватят большую её часть. Если так, то пузырь есть — он в AI-лабораториях с их триллионными оценками, и они могут оказаться в гонке на дно. BigTech по большей части не в пузыре, они переживут коррекцию и вернутся к своему существующему бизнесу.

Вся посылка о том, пузырь это или нет, зависит от того, могут ли LLM быть чем-то большим, чем машиной для предсказания следующего токена, или нет. Добавление рассуждающих агентов, роёв агентов и так далее для улучшения результатов того, что по сути является просто предсказанием следующего токена, всё равно означает, что эта технология в своей основе только предсказывает следующий токен. Это не AGI, и если что-то фундаментальное не изменится, это никогда не станет AGI. У этой технологии, безусловно, есть ценные применения, как мы видели в программировании, математике и других секторах. Но это всё ещё не больше, чем приём большого объёма данных и предсказание следующего токена.

Тем временем крупные технологические компании сначала финансировали это строительство за счёт денежного потока от существующей выручки. Как только это стало труднее оправдывать, они буквально создали компании, чтобы держать это вне своих прямых балансов, и эти компании в конечном итоге созданы для того, чтобы нести убытки и обанкротиться. Но до достижения этой стадии провала и дефолта по долгам и обязательствам они пошли к преступникам на Уолл-стрит и разработали финансовый продукт, структурированный не так уж иначе, чем ипотечные ценные бумаги. Кроме того, по мере расширения «ИИ»-аспектов их существующего бизнеса это съедает традиционную выручку, генерируемую их основным бизнесом, который, если мы помним, является первоначальным залогом, используемым для обоснования всего долга. Теперь эти основные технологические компании должны победить в «ИИ», что бы это в конечном итоге ни значило, чтобы не только выплатить долг от строительства, но и заменить свой существующий […]

Большие красные флаги, которые, я думаю, указывают в другую сторону:

- переоценка IPO Anthropic

- разрыв границы Парето между открытыми и закрытыми моделями сокращается с каждым месяцем

- разочарование SpaceX

- корпоративные покупатели как основные потребители закрытых токенов вытесняются открытым исходным кодом за копейки

- потеря рабочих мест и обвал найма на начальные позиции

- массовые скидки по текущим долгам за контракты на дата-центры

- эффективность потребительских моделей с открытыми весами постоянно растёт

- китайская гонка вооружений

- возможная быстрая нисходящая спираль, которая может вынудить правительства вмешаться и субсидировать

Я что-то упустил?

Меня не убеждают утверждения, что инфраструктура дорога только на начальном этапе строительства. Аппаратное обеспечение не вечно, особенно в дата-центре, обслуживание не бесплатно, электричество не станет значительно дешевле. Если модели станут эффективнее, нам не понадобятся супердорогие и масштабные строительства аппаратного обеспечения; если модели продолжат становиться мощнее и требовательнее и будут ограничены аппаратным обеспечением, каждое новое поколение аппаратного обеспечения затмит всё это дорогое и скоро устаревшее оборудование по энергоэффективности, что потребует ещё одного массового раунда финансирования, который игрокам, уже обременённым долгами, будет трудно себе позволить.

Да, люди мечтают вернуться к тому, как всё было раньше, и в отношении искусственного интеллекта были сделаны необратимые шаги. Но в то время как определённый сегмент общества богатеет экономически, человечество движется к необратимому социологическому разрушению.

По аналогии, как в сценарии постапокалиптических фильмов, где люди поедают друг друга, мы как вид движемся к мрачному концу.

Стоит ли это читать? Я должен спросить из-за аниме-аватара, который сам по себе сильно дискредитирует автора.

Не знаю, имеют ли смысл оценки, но удобство использования налицо, как и потенциальная прибыль. За десятилетие, вероятно, только это и имеет значение. Если оценки лопнут или упадут (в ближайшее время), я думаю, это в основном неважно. Понимаю, что прессе, вероятно, не нравится слышать этот скучный вывод.

P.S.: Парень, занимающийся симуляциями в Matlab/физике, баллотируется в парламент от Либеральной партии в Канаде? Расскажите подробнее!