Databricks recorta un 70% el gasto en IA de codificación

Databricks drove down AI coding spend 70%

Databricks ha logrado reducir el gasto en herramientas de codificación con IA en un 70% mediante técnicas como la adopción de modelos más eficientes, el enrutamiento dinámico de solicitudes y la gestión de presupuestos con visibilidad y límites progresivos. La compañía comparte su experiencia y la de otras empresas como Stripe, Coinbase, Uber y Ramp, destacando la importancia de la frontera de eficiencia frente a la frontera de inteligencia, y el uso de meta-harness como Omnigent para mantener la flexibilidad de modelos. También se abordan estrategias para reducir el overhead de tokens y el papel del caché en la optimización de costes.