Portal от Spotify сократил расход токенов Claude Code на 90%
Portal by Spotify cut my Claude Code token usage by 90%
Инженер Spotify делится опытом радикального сокращения расходов на токены при работе с ИИ-ассистентом Claude Code. Большая часть токенов уходит не на размышления, а на чтение файлов и генерацию шаблонного кода. Решение — два режима (mode) в Portal by Spotify: bulk-reader для массового чтения и code-writer для написания кода по образцу. Вместе с плагином shunt, который перехватывает вызовы Claude Code и направляет их в эти режимы, удалось добиться экономии до 90% токенов. При этом автор честно отмечает ограничения: нельзя делегировать редактирование кода и сложные рассуждения, а задержки при делегировании могут быть значительными.
Большая часть того, что ИИ-агент делает для меня, — это не мышление, а ввод-вывод: чтение пяти файлов, чтобы ответить на вопрос об одном методе, генерация тестового файла по тому же шаблону, что и двадцать соседних, обновление документации после встречи.
- schainks
Нужна поистине корпоративная преданность, чтобы публиковать технические мысли на странице, которая активно мешает её читать.
- steveBK123
Каких великих достижений в производительности добивается Spotify, делая свой продукт хуже?
- ricardobeat
Ни слова о корректности или проценте успешного выполнения задач. Это работает только если модель субагента намного дешевле, чем модель, управляющая вашей сессией, а значит она, скорее всего, будет ошибаться гораздо чаще [1] в том, что делает код. Маршрутизация исключительно по размеру ничего не говорит о сложности кода.
К тому же, экономия 90% входных токенов не равна экономии 90% "токенов" — выходные токены намного дороже.
[1] особенно если это очень старая модель, например Gemini 2.5!
- solenoid0937
Так это просто делегирование некоторой работы более тупым моделям? Я бы точно не стал использовать Gemini 2.5 Flash (!!?) для написания кода, как предлагается.
У меня никогда не было проблем с Codex или Claude при чтении огромных файлов, они отлично умеют делать точный grep.
- alastairr
Кто-нибудь вообще просматривает эти посты в блоге перед публикацией? Если никто в компании не может потрудиться их проверить, не понимаю, почему они ожидают, что кто-то будет продираться сквозь эти ИИ-афоризмы.
- pmdr
Хотелось бы, чтобы сайты перестали портить поведение прокрутки.
- jnwatson
Это сокращает использование токенов, потому что они используют другой сервис с другим бюджетом токенов для задач чтения и написания кода.
Вы также можете просто делегировать это субагентам в Claude Code (хотя у вас будет более ограниченный выбор моделей, если только вы не поменяете более дешёвые модели через OpenRouter).
Я не против использовать тупую модель как умный grep, но весь смысл использования передовых моделей в том, чтобы применять их интеллект для сложных задач, таких как программирование.
- khaki54
Обратная сторона чтения постов о практическом применении ИИ в том, что практик часто использует ИИ для их написания. Не знаю, почему прозу, написанную ИИ, так трудно читать в браузере. У меня нет проблем при чтении в моём TUI.