Codex на AWS Bedrock: баг вызывает 10-кратное увеличение расходов
Codex on AWS bedrock bug causing 10x charges
Пользователи Codex CLI на Amazon Bedrock столкнулись с резким ростом затрат из-за отсутствия явного управления кэшем для модели GPT-5.6 Sol. В issue #37674 на GitHub сообщается, что за четыре дня (5–8 августа 2026) было потрачено около $1 386, при этом 85% суммы ($1 182) ушло на запись кэша. Один из пользователей, kevmyung, отметил, что после обновления с 0.146.0 до 0.147.0 соотношение записей к чтениям кэша выросло с 0.08 до 8.84, а ежедневные расходы увеличились минимум в 5 раз. Разработчики подтвердили проблему и работают над исправлением.
На Bedrock, где кэширование для Sol является явным, а не неявным, каждый запрос переписывает полный префикс, что приводит к профилю с 85% записей кэша и нулевым чтениям.
- amluto
Ого, весь этот тред — на грани бессвязности, видимо, сгенерирован ИИ без должного контроля.
Вот документация:
https://developers.openai.com/api/docs/guides/prompt-caching...
В треде почти не объясняется, что за странные вещи они делают с Codex, из-за которых дефолтное поведение работает плохо, и похоже, что они сами путаются, хотят ли установить режим кэширования или точку останова, или и то и другое.
В любом случае, изменение поведения мне интересно. Похоже, что в версиях 5.5 и ниже могла использоваться обычная схема внимания, где кэшированную KV-последовательность легко использовать для восстановления префикса, но, возможно, в 5.6 используется линейное внимание, LSTM или другая рекуррентная схема, где нельзя откатить состояние модели простым усечением.
- ryanjshaw
Тот факт, что компании с доступом к SOTA-моделям, не являющимся публичными, продолжают допускать такие тупые баги в такой простой вещи, как чат-приложение, подтверждает моё недоверие к заявлениям, что ИИ готов заменить всю разработку ПО.
- TheP1000
У нашего Codex на AWS Bedrock соотношение чтения/записи кэша было менее 5%. Записи в кэш очень дорогие, и они никогда не использовались. В результате Codex на Bedrock обходится примерно в 10 раз дороже, чем должен, из-за отсутствия кэширования и массовых записей.
Обходной путь, который решил проблему для меня:
web_search = "disabled"
- spacedoutman
Что-то не так и с приложением Codex — в последнее время оно сжигает кучу ресурсов.
- prtmnth
Использование Codex кажется чрезмерно высоким с сегодняшнего дня. Они [0] это отрицают, но количество пользователей, которые решили поднять эту проблему (и она трендится в X), говорит об обратном.