Portal de Spotify reduce el uso de tokens de Claude Code en un 90%
Portal by Spotify cut my Claude Code token usage by 90%
La ingeniería de Spotify presenta Portal, una plataforma que introduce los modos AiKA para enrutar tareas de I/O de agentes de codificación de IA a modelos más económicos. Un desarrollador implementó dos modos (bulk-reader y code-writer) con Gemini Flash, junto con un plugin llamado shunt que intercepta llamadas de Claude Code y delega lecturas y generación de código repetitivas. Las pruebas en un monorepo Java mostraron una reducción media del 90% en el consumo de tokens, con limitaciones en edición, razonamiento y latencia.
La mayor parte de lo que un agente de codificación de IA hace por mí no es pensar, es I/O.
- solenoid0937
¿Entonces esto es solo delegar cierto trabajo a modelos más tontos? Ciertamente yo no usaría Gemini 2.5 Flash (¡¡?) para escribir código como se sugiere.
Nunca he tenido problemas con Codex o Claude leyendo archivos enormes, son realmente buenos en búsquedas precisas.
- jnwatson
Reduce el uso de tokens porque están usando un servicio diferente con un presupuesto de tokens distinto para las tareas de lector/escritor de código.
También puedes delegar esto a subagentes con Claude Code (aunque tienes una elección más limitada de modelos a menos que cambies a modelos más baratos a través de OpenRouter).
Estoy de acuerdo en usar un modelo tonto como un grep inteligente, pero el punto de usar los modelos de frontera es usar su inteligencia para las cosas difíciles como programar.
- faangguyindia
No funciona bien en la práctica.
Pruébalo tú mismo, usa un modelo grande como Opus o Sol para implementar todo haciendo primero un plan con el modo plan.
Luego intenta distribuir la tarea a modelos más baratos como Luna Max o Gemini Flash 3.8.
Durante la planificación, el modelo grande ya lee los archivos relevantes en contexto, mientras que dar a un modelo más pequeño un fragmento del trabajo requiere que el modelo grande razone sobre la distribución de tareas, revise, etc.
Entonces, ¿realmente ahorras tokens?
- shikck200
Nota al margen: POR FAVOR NO secuestres el desplazamiento. Es algo muy muy malo. Por favor, no lo hagas.
- Banditoz
Oh cielos, ¿por qué este sitio web anula el comportamiento del desplazamiento?