Portal de Spotify reduce el uso de tokens de Claude Code en un 90%
Portal by Spotify cut my Claude Code token usage by 90%
La ingeniería de Spotify presenta Portal, una plataforma que introduce los modos AiKA para enrutar tareas de I/O de agentes de codificación de IA a modelos más económicos. Un desarrollador implementó dos modos (bulk-reader y code-writer) con Gemini Flash, junto con un plugin llamado shunt que intercepta llamadas de Claude Code y delega lecturas y generación de código repetitivas. Las pruebas en un monorepo Java mostraron una reducción media del 90% en el consumo de tokens, con limitaciones en edición, razonamiento y latencia.
La mayor parte de lo que un agente de codificación de IA hace por mí no es pensar, es I/O.
- schainks
Se necesita una verdadera dedicación corporativa para publicar liderazgo intelectual técnico en una página que lucha activamente contra tu capacidad de leerla.
- steveBK123
¿Qué grandes ganancias de productividad está logrando Spotify al empeorar su producto?
- ricardobeat
No se menciona la corrección ni la tasa de éxito de las tareas. Esto solo funciona si el modelo subagente es mucho más barato que el que ejecuta tu sesión, lo que significa que probablemente se equivoque mucho más a menudo [1] sobre lo que hace el código. Enrutar puramente por tamaño no te dice nada sobre la complejidad del código. Además, ahorrar el 90% de los tokens de entrada no es lo mismo que ahorrar el 90% "de los tokens", la salida es mucho más cara. [1] ¡especialmente si es un modelo muy antiguo como Gemini 2.5!
- solenoid0937
Entonces, ¿esto es solo delegar cierto trabajo a modelos más tontos? Ciertamente yo no usaría Gemini 2.5 Flash (¿¡?!) para escribir código como se sugiere. Nunca he tenido problemas con Codex o Claude leyendo archivos enormes, son muy buenos haciendo búsquedas precisas con grep.
- alastairr
¿Alguien revisa siquiera estas publicaciones de blog antes de que se publiquen? Si nadie en la empresa se molesta en revisarlas, no sé por qué esperan que alguien persevere con las aforías de IA.
- pmdr
Desearía que los sitios web dejaran de manipular el comportamiento del desplazamiento.
- jnwatson
Reduce el uso de tokens porque están usando un servicio diferente con un presupuesto de tokens distinto para las tareas de lector/escritor de código. También puedes delegar esto a subagentes con Claude Code (aunque tienes una elección más limitada de modelos a menos que intercambies los modelos más baratos a través de OpenRouter). Estoy de acuerdo en usar un modelo tonto como un grep inteligente, pero todo el punto de usar los modelos frontera es usar su inteligencia para las cosas difíciles como programar.
- khaki54
La desventaja de leer publicaciones sobre la aplicación práctica de la IA es que el profesional a menudo usa IA para escribirla. No sé por qué la prosa de la IA es tan difícil de leer en el navegador. No tengo ningún problema cuando leo desde mi TUI.