AWS와 Google Cloud가 도입한 지출 한도, 이제 선택이 아닌 기본이 되어야 한다
We're going to need default hard budget caps on pretty much everything
Simon Willison은 pay-by-usage API와 에이전트 기반 개발 환경에서 기본 하드 예산 한도가 필수적이라고 주장한다. 경고 이메일만 보내는 소프트 한도로는 불충분하며, 예산 초과 시 서비스를 중단하고 오류를 반환해야 한다는 것. AWS는 지난 9월 월별 지출 한도를 출시했고 Google Cloud도 7월에 Spend Caps를 선보이며 이 흐름이 확산되고 있다.
대부분의 기업과 개인은 예상치 못한 1만 달러 이상의 청구서보다는 오류를 선호할 것이다.
HN 토론
307- motionlessveloc
예전에 잘 알려진 백엔드 서비스의 지원 팀에서 일한 적이 있는데, 거기엔 하드 예산 한도가 있었습니다.
안타깝게도 그건 악몽이었어요. 자연 성장/바이럴/큰 이벤트/아무도 한도를 몰랐던 등등의 이유로 최악의 타이밍에 서비스가 강제로 차단된 고객들로부터 엄청난 티켓과 심지어 소송 위협까지 있었습니다. 그들은 그 급증으로 얻을 수 있었던 모든 리드와 수익을 잃었을 뿐만 아니라, 갑자기 서비스를 쓸 수 없게 된 기존 사용자들까지 화나게 했죠.
일반적으로 말해서, 하드 한도보다는 경고를 사용하는 게 훨씬 낫습니다. 최악의 경우(해커가 자격 증명을 털어서 비트코인을 채굴하는 등)에도 나머지 비즈니스는 영향을 받지 않고, 비교적 여유롭게 청구 부서와 협상할 수 있습니다.
이 모든 건 서비스를 운영하는 사람이 있다는 가정 하에 하는 말입니다. AI 에이전트가 프로덕션 인프라를 마음대로 휘젓게 놔둔다면, 완전히 새로운 문제들이 줄줄이 생깁니다.
- kqr
이건 달러 청구를 넘어서는 문제입니다. 프로덕션 코드가 신뢰할 수 있으려면 모든 것에 하드 한도가 있어야 합니다.
큐 길이, 요청 크기, 응답 대기 시간, 메시지 페이로드 크기, 인증 시도 횟수, 할당 속도 -- 시스템이 너무 엉망이 되어 차라리 크래시하는 게 나을 정도의 상한선이 항상 존재합니다.
> 이에 반대하는 논거는 기업들이 호스팅 애플리케이션이 예산 초과 때문에 오류를 내뱉기 시작하는 걸 원치 않는다는 것입니다. 대부분의 기업과 개인은 예상치 못한 1만 달러 이상의 청구서보다 오류를 선호할 거라 생각합니다.
정말 그렇습니다. 예상치 못한 1만 달러 청구서를 원한다면, 그건 여전히 하드 캡에 반대하는 논거가 아닙니다 -- 그냥 9,999,999달러로 설정하거나, 예상치 못한 청구서를 원치 않는 지점에 설정하면 됩니다. 뭔가 미쳐 돌아갔다는 걸 나타내는 숫자는 항상 있습니다. 어떤 작업에도 항상 합리적인 상한선이 있습니다.
- mstaoru
저는 Google AI Studio / Dev Platform / 뭐라 부르든 간에 이 문제에서 최악 중 하나라고 봅니다.
비디오 모델이 막 나왔을 때, 짧은 클립을 만들고 싶었습니다. 그때 Gemini는 제어가 충분치 않아서 Studio에서 시작했죠. 계정에 10달러가 있었습니다. 시도, 시도, 시도, 별로, 재시도, 10초짜리 비디오에 4가지 선택지로 총 20-30번 재시도했을 겁니다.
다음 날 아침 Google에서 이메일이 왔습니다 - 잔액이 마이너스라서 Studio 계정이 동결됐다고요.
확인해보니 -160달러였습니다. 재정적 파멸은 아니지만, 결국 쓰지도 않은 10초짜리 비디오에 아픈 금액이었죠.
거기엔 "내가 마이너스가 되면 모든 걸 멈춰라"라는 설정이 없었던 것 같습니다(지금도 없을 겁니다).
거의 1년이 지난 지금도 여전히 형편없습니다. Lyria로 음악을 좀 만들어보려고 하면, API 청구가 비용에 나타나기까지 10-12시간을 기다려야 합니다. 이제는 쓴 교훈을 얻어서, 새로운 실험을 할 때마다 얼마가 나왔는지 확인하려고 매번 기다립니다.
코딩은 해결됐다? 웃기지 마세요.
- hyperhello
이런 건 협상된 계약 없이는 존재해서도 안 됩니다.
저는 월정액(예를 들어 20달러/월)으로 귀하의 서비스를 구독하고, 귀하의 서비스나 제가 실수하면 그 달 요금을 잃을 위험을 감수하거나, 월 중간에 20달러를 더 넣거나, 편의를 위해 뭐든 선택할 수 있습니다.
컴퓨터가 청구를 "제어"하고 통제 불능이 될 수 있다고 말하는 건, 귀하의 잘못된 인센티브 더미 근처에도 가고 싶지 않다는 뜻입니다.
- brap
클라우드 제공업체와 처음 일하기 시작했을 때 이 기능이 거의 어디에도 없다는 걸 발견하고 충격이었습니다.
그렇게 기본적인 것인데, 이게 없는 건 의도적으로 당신이 원하는 것보다 더 많이 쓰게 만들기 위한 게 틀림없습니다.
- akd
하드 캡이 드문 이유는 기업들이 동정적인 개인의 청구서는 탕감해주면서 서비스가 엉망이 된 기업들로부터 수익을 챙기는 게 더 이익이기 때문입니다
- chrismarlow9
네트워크 포화는 어렵습니다. 엔드포인트를 꺼도 그 사이 네트워크는 여전히 포화될 수 있습니다. 그리고 그것도 여전히 대역폭이죠.
저는 실제로 청구를 기반으로 한 네트워크 ACL 트리거가 이걸 진정으로 강제할 수 있는 유일한 방법이라고 생각합니다.
한 번 DDoS 공격을 목격한 적이 있는데, 그게 청구에 대한 제 생각을 바꿔놨습니다. 로컬로 프로비저닝된 하드웨어였고 공격자들이 스위치를 포화시켰습니다. 순진하게 "그냥 CIDR을 차단해"라고 말했지만, 문제는 들어오는 RAM이 너무 포화되어 펌웨어에서 "거부" 단계에 도달조차 할 수 없다는 것이었습니다.
그래서 기술적 관점에서 AWS 내부에서 DDoS가 발생하면 어떻게 할까요? 엔드포인트를 끄나요? 라우터에서 소스가 도달하지 못하게 막나요? 그것도 돈이 듭니다. 어쨌든 그 사건은 이 과제에 대한 제 이해를 다른 차원으로 끌어올렸습니다.
편집: 이건 주로 왜 이게 이렇게 오래 걸렸는지 불평하는 사람들을 겨냥한 것입니다. 어느 정도 규모가 되면 친절하게 "죄송합니다만 안 됩니다"라고 말하는 것조차 비쌉니다. 요즘 채용 담당자들도 이걸 공감할 수 있을 겁니다.
- joshdavham
2026년에 AWS와 GCP가 이제야 이걸 도입한다는 게 믿기지 않습니다. 클라우드 제공업체에게 가장 명백히 필요한 기능 중 하나일 겁니다.
그런데 왜 이렇게 오래 걸렸는지 아는 사람 있나요? 기술적인 이유일 거라 의심합니다. 냉소적으로 볼 수도 있지만, 의도적인 비즈니스/제품 결정이라고는 생각하지 않습니다. 하드 지출 한도는 훌륭한 제품 차별화 요소일 뿐만 아니라, 사용자가 실수로 서비스를 과다 사용했을 때 탕감해줄 필요가 없어져 제공업체의 비용을 절약해줄 수도 있습니다.
- modeless
잠깐, Google Cloud가 드디어 서비스별 하드 지출 한도를 추가했나요? 몇 년 동안 이걸 원했는데! 정말 오래 걸렸네요.
https://cloud.google.com/blog/topics/cost-management/new-ear...
편집: 아, 가짜네요. 말 그대로 무작위 서비스 네 개에만 작동하고 나머지는 모두 지원되지 않습니다. 제 모든 프로젝트에 완전히 쓸모없습니다. 게다가 달마다 길이가 다른데 지원되는 기간이 "월간"뿐이라는 것도 멍청하고, 크레딧이나 할인을 고려하지 않는 것도 어이없습니다. 아마 다음 10년쯤에야 쓸모 있는 걸 구현할지도 모르겠네요.
- gausswho
대기업이 지출 한도를 추가하는 건 고객들이 가상 카드로 스스로 해결하는 것에 지겨워졌기 때문인지 궁금하네요.