Spotify의 Portal로 Claude Code 토큰 사용량 90% 절감
Portal by Spotify cut my Claude Code token usage by 90%
AI 코딩 에이전트가 소비하는 토큰의 대부분은 추론이 아니라 단순 I/O 작업에 사용됩니다. Spotify 엔지니어는 Portal by Spotify의 AiKA Modes를 활용해 대량 파일 읽기나 반복적인 코드 생성 같은 단순 작업을 저비용 모델(Gemini 2.5 Flash)에 위임하는 라우팅 시스템 'shunt'를 구축했습니다. 그 결과 Claude Code의 토큰 사용량을 약 90% 줄였습니다. 이 글은 후킹과 스크립트, 스킬을 계층적으로 구성한 구현 방법과 벤치마크 결과, 그리고 편집이나 추론처럼 위임할 수 없는 작업의 한계를 설명합니다.
AI 코딩 에이전트가 하는 일의 대부분은 생각이 아니라 I/O다.
HN 토론
172- schainks
진정한 기업의 헌신이 있어야 읽기조차 힘들게 만든 페이지에 기술 리더십 글을 게시할 수 있다.
- steveBK123
스포티파이가 제품을 더 나쁘게 만들면서 얻는 생산성 향상이 뭔가요?
- ricardobeat
정확성이나 작업 성공률에 대한 언급이 없습니다. 이 방법은 서브에이전트 모델이 세션을 실행하는 모델보다 훨씬 저렴할 때만 작동합니다. 즉, 코드가 무엇을 하는지에 대해 더 자주 틀릴 가능성이 높습니다[1]. 크기만으로 라우팅하면 코드 복잡성에 대해 아무것도 알 수 없습니다.
게다가 입력 토큰 90% 절약은 토큰 90% 절약과 같지 않습니다. 출력은 훨씬 더 비쌉니다.
[1] 특히 Gemini 2.5 같은 아주 오래된 모델이라면 더욱 그렇습니다!
- solenoid0937
그러니까 이건 특정 작업을 더 멍청한 모델에 위임하는 것뿐인가요? 저는 제안된 대로 코드 작성을 위해 Gemini 2.5 Flash(!!?)를 사용하지 않을 것입니다.
Codex나 Claude가 거대한 파일을 읽는 데 문제를 겪은 적은 없습니다. 그들은 정밀한 grep에 정말 능숙합니다.
- alastairr
이런 블로그 게시물을 게시하기 전에 아무도 검토하지 않나요? 회사에서 아무도 검토할 귀찮음을 겪지 않는다면, 왜 사람들이 AI 격언을 참고 읽을 것으로 기대하는지 모르겠습니다.
- pmdr
웹사이트들이 스크롤 동작을 망치는 것을 그만두었으면 좋겠습니다.
- jnwatson
토큰 사용량을 줄인 이유는 다른 서비스를 사용하여 독자/코드 작성 작업에 다른 토큰 예산을 적용하기 때문입니다.
Claude Code에서도 서브에이전트에 위임할 수 있습니다(단, OpenRouter를 통해 더 저렴한 모델로 교체하지 않는 한 선택할 수 있는 모델이 제한적입니다).
저는 멍청한 모델을 똑똑한 grep으로 사용하는 것은 괜찮지만, 프론티어 모델을 사용하는 이유는 코딩 같은 어려운 작업에 그들의 지능을 사용하기 위해서입니다.
- khaki54
AI의 실제 적용에 관한 글을 읽을 때의 단점은 실무자가 종종 AI를 사용하여 글을 쓴다는 것입니다. 브라우저에서 AI 산문을 읽기가 왜 그렇게 어려운지 모르겠습니다. TUI에서 읽을 때는 전혀 문제가 없는데요.