AWS наконец-то добавила жесткие лимиты расходов
We're going to need default hard budget caps on pretty much everything
Simon Willison призывает сделать жесткие лимиты бюджета (hard budget caps) обязательными по умолчанию для всех pay-by-usage сервисов. Мягкие предупреждения не спасают: пока вы спите, агент может потратить тысячи долларов. AWS недавно запустила месячные лимиты, а Google Cloud — Spend Caps. Автор надеется, что это станет стандартом, а агенты начнут предупреждать о рисках.
Я думаю, жесткие лимиты бюджета должны быть по умолчанию. Если кто-то хочет жить опасно, он должен иметь такую возможность, но это должно быть на основе явного согласия.
- motionlessveloc
Раньше я работал в службе поддержки известного сервиса бэкенд-типа, у которого были жёсткие лимиты бюджета.
Это, к сожалению, было сущим кошмаром. Была куча тикетов и даже угрозы судебных исков от клиентов, чей сервис жёстко отключался в самый неподходящий момент из-за органического роста/вирусности/крупного события/никто не знал о лимите/и т.д. Они не только теряли всех лидов и доход, который могли бы получить от этого всплеска, но ещё и злили своих существующих пользователей, которые внезапно тоже не могли пользоваться сервисом.
В целом, гораздо лучше использовать оповещения, а не жёсткий лимит. Даже в худшем случае (хакеры украли ваши учётные данные и майнят Bitcoin или что-то такое) остальной ваш бизнес не затронут, и вы можете спокойно договориться с отделом биллинга.
Всё это при условии, что сервисом управляют люди. Если вы позволяете AI-агентам безрассудно управлять инфраструктурой в проде, у вас появляется целая серия новых проблем.
- kqr
Это выходит за рамки денежных списаний. Чтобы продакшн-код был надёжным, всё должно иметь жёсткий лимит.
Длины очередей, размеры запросов, время ожидания ответа, размер полезной нагрузки сообщений, попытки аутентификации, скорость выделения ресурсов — всегда есть некоторое верхнее число, за которым система настолько испорчена, что вы предпочли бы, чтобы она упала.
> Аргумент против этого заключается в том, что бизнес не хочет, чтобы его размещённые приложения начинали выдавать ошибки из-за превышения бюджета. Я полагаю, что большинство компаний и частных лиц предпочли бы ошибки неожиданному счёту на $10 000+.
Действительно. Если вы хотите неожиданный счёт на $10 000, это всё равно не аргумент против жёсткого лимита — просто установите его на $9 999 999 или на любую сумму, при которой вы не хотите неожиданного счёта. Всегда есть число, указывающее на то, что что-то сошло с ума. Всегда есть разумный верхний предел для любой операции.
- mstaoru
Я считаю Google AI Studio / Dev Platform / как его там одним из худших в этом плане.
Когда видео-модели только появились, я хотел сделать короткий клип. У Gemini тогда не хватало контроля, поэтому я начал в Studio. У меня на счету было $10. Пробую, пробую, пробую, не то, повторяю, всего, может, 20-30 попыток с 4 вариантами для 10-секундного видео.
Просыпаюсь на следующее утро от письма от Google — мой аккаунт Studio заморожен из-за отрицательного баланса.
Проверяю, там -$160. Не финансовый крах, но болезненная сумма за 10-секундное видео, которое я в итоге даже не использовал.
Не думаю, что там была (или есть) настройка «остановить всё, когда я ухожу в минус».
Почти год спустя всё так же плохо. Пытаюсь сделать музыку через Lyria, мне нужно ждать 10-12 часов, чтобы списание за API появилось в моих расходах. Теперь у меня был горький урок, я жду после каждого крупного нового эксперимента, чтобы увидеть, сколько мне это стоило.
Программирование решено, ага, конечно.
- hyperhello
Этого вообще не должно существовать без согласованного контракта.
Я могу подписаться на ваш сервис за определённую плату на месячной основе (скажем, $20/месяц) и взять на себя риск потерять эту месячную плату, если ваш сервис или я допустим ошибку, или я могу выбрать добавить ещё $20 в середине месяца, или что угодно для удобства.
Утверждение, что компьютер будет «управлять» биллингом и может сойти с ума, говорит мне, что я не хочу находиться где-либо рядом с вашей кучей плохих стимулов.
- brap
Когда я только начал работать с облачными провайдерами, было шокирующе обнаружить, что этой функции не существует практически нигде.
Это такая базовая вещь, что её отсутствие должно быть намеренным, чтобы вы случайно тратили больше, чем хотели бы.
- akd
Жёсткие лимиты редки, потому что компаниям выгоднее прощать счета симпатичных частных лиц, одновременно наживаясь на корпорациях, чьи сервисы вышли из-под контроля
- chrismarlow9
Насыщение сети — сложная штука. Даже если вы отключите эндпоинт, вы всё ещё можете насытить сеть на промежуточном участке. И это всё ещё пропускная способность.
Я на самом деле думаю, что триггеры сетевых ACL на основе биллинга могут быть единственным способом реально обеспечить это.
Я однажды стал свидетелем DDoS-атаки, которая изменила моё представление о биллинге. Это было локально развёрнутое оборудование, и атакующие насытили коммутаторы. Наивно я сказал «просто заблокируйте CIDR», но проблема была в том, что входящий поток настолько насыщен, что он даже не может дойти до точки «deny» в прошивке.
Так что с технической точки зрения, если внутри AWS происходит внутренний DDoS, что вы делаете? Отключаете эндпоинт? Отбрасываете источники на роутере, чтобы они не попадали на него? И даже это стоит денег. В общем, тот инцидент дал мне другое понимание этой задачи.
Edit: это в основном адресовано тем, кто жалуется, почему это заняло так долго. На каком-то этапе масштабирования даже вежливо сказать вам «извините, нет» стоит дорого. Уверен, рекрутеры сейчас могут это понять.
- joshdavham
Невероятно, что в 2026 году AWS и GCP только сейчас вводят это. Это, возможно, одна из самых очевидно необходимых функций для облачного провайдера.
Также кто-нибудь знает, почему это заняло так много времени? Подозреваю, что причина техническая. Можно быть циничным, но я сомневаюсь, что это намеренное бизнес/продуктовое решение. Жёсткие лимиты расходов — это и отличный дифференциатор продукта, и потенциально могут сэкономить этим провайдерам деньги, так как им не придётся прощать пользователям случайное чрезмерное использование сервиса.
- modeless
Погодите, Google Cloud наконец добавил жёсткие лимиты на расходы по каждому сервису? Я хотел этого столько лет! Они явно не торопились.
https://cloud.google.com/blog/topics/cost-management/new-ear...
Edit: Тьфу, это фейк. Буквально работает только для четырёх случайных сервисов, не поддерживается для всех остальных. Совершенно бесполезно для всех моих проектов. Ещё тупо, что единственный поддерживаемый период — «месячный», учитывая, что месяцы разной длины, и что они не удосуживаются учитывать кредиты или скидки. Может, в следующем десятилетии они соберутся реализовать что-то полезное.
- gausswho
Интересно, не связано ли добавление лимитов расходов BigCorp с тем, что им надоело, как клиенты решают эту проблему сами с помощью виртуальных карт.