Wagtail потратил 2 млрд токенов на GLM 5.3 Flash, но половину месяца пришлось переключиться на другие модели

One month coding with GLM 5.3 Flash

Wagtail потратил 2 млрд токенов на GLM 5.3 Flash, но половину месяца пришлось переключиться на другие модели

Команда Wagtail провела месяц, используя GLM 5.3 Flash для повседневной разработки. Первая половина прошла успешно: 1 млрд токенов, $68, 4 кВт·ч энергии. Однако затем из-за проблем с инфраструктурой и роста цен на vibe coding пришлось переключиться на DeepSeek V4.1 Flash и Qwen 3.8 Flash. Итог: 2 млрд токенов, 35 кВт·ч вместо запланированных 10. В статье делятся выводами и планами на октябрь: измерять энергопотребление, бюджетировать эксперименты и оптимизировать промпты.

So technically this challenge was a failure. Only 50% usage on the target model, 1B out of 2B tokens. About 35 kWh of energy use instead of 10.
  1. epistasis

    Одна вещь в этих цифрах, которая меня абсолютно шокирует, — это насколько низкое энергопотребление:

    > Использование этой модели вполне уложилось в наш бюджет ($68, около 4 кВт·ч энергии / 365 граммов выбросов углерода).

    Энергозатраты буквально составляют 1% от общей стоимости. Для контекста: 4 кВт·ч энергии позволят проехать около 15 миль на электромобиле — это примерно половина среднесуточного пробега обычного человека. Это вскипятить 10 галлонов воды.

    С учётом разговоров о влиянии дата-центров для ИИ на мир, можно было бы подумать, что для достижения эффектов, которые здесь используются, потребуется в 10–100 раз больше энергии.

    Мой вывод: строительство дата-центров для ИИ — это переизбыток мощностей, вероятно, по крайней мере такой же масштабный, как строительство оптоволоконных сетей, которое оставило нам столько тёмного волокна. Если не даже больше. Единственное, что спасёт экономику, — это неспособность NVIDIA и производителей чипов выпустить достаточно чипов, чтобы соответствовать запланированному строительству.

  2. aktenlage

    > К сожалению, у этого всё ещё есть последствия. Я выбрал «неправильную» модель для прототипа, и мы потратили 450 млн токенов / $150 / 5 кВт·ч энергии почти за одну ночь. Сам MCP-сервер работает хорошо, и теперь у нас есть отличное демо возможностей, так что это не напрасно:

    > Тем не менее, это хорошее напоминание о том, что нужно быть осторожным с выбором модели и с агентными паттернами. Мы могли бы достичь похожих результатов, скорее всего, в 5 раз дешевле и без особых дополнительных усилий. Урок усвоен! Нужно закладывать это в бюджет и быть внимательнее. Можно было предвидеть, но теперь мы знаем.

    Я не понимаю. Почему это было неправильно? Какая модель была бы лучше? В чём был урок и как можно было это предвидеть?

  3. hgoel

    Я был очень воодушевлён последними улучшениями скорости GLM5.3-Flash на кластерах DGX Spark. Это действительно ощущается близко к тому, как было общаться с Opus ~4.5. Пока ещё не совсем то же самое по стабильности, но это очень приятный опыт. Меньше ограничений и высококачественные abliterated-версии дополнительно повышают его полезность.

    Хотя Qwen3.8-Flash-Next очень близок к этому уровню, требуя при этом меньше ресурсов для запуска, так что я с нетерпением жду Qwen4.

  4. disiplus

    Этот пост был сгенерирован LLM? Он где-нибудь внятно объяснил, почему именно это не сработало, с примером, или мне трудно читать?

  5. monksy

    GLM5.3-flash был фантастическим для меня в том, чтобы вносить мелкие правки неочевидными способами. «Почини функцию X, что идёт не так». Он справляется.

  6. Tepix

    Это просто ужасная статья, очень расплывчатая, неверные причины, пустая трата времени.

  7. nxobject

    Это не было главной мыслью автора, но меня зацепило, когда он сказал: «это не то, к чему мы обычно стремимся, но для прототипов это работает хорошо». Это отражает то, что я чувствую по поводу вайб-кодинга — можно справляться с невероятно сложными задачами! Но, боже, я вовсе не собираюсь использовать (скажем) созданный ИИ драйвер для GPU на ежедневной основе! Возможно, нам стоит (снова) нормализовать «ты выбросишь свою первую попытку».

  8. ThibWeb

    Это была немного глупая задача, не был уверен, насколько она осуществима, многое узнал в процессе о том, что на самом деле определяет использование / затраты и как держать и то, и другое под контролем.

Ещё за этот день

2026-10-02