Databricks senkt KI-Codekosten um 70 %
Databricks drove down AI coding spend 70%
KI-Codierungstools steigern die Produktivität, aber die Kosten explodieren. Databricks und andere Unternehmen wie Stripe, Coinbase, Uber und Ramp setzen auf Techniken wie Modell-Routing, Meta-Harnesses, Budgets und Token-Optimierung, um die Ausgaben pro Nutzer stabil zu halten. Ein zentraler Hebel ist die schnelle Umstellung auf effizientere Modelle, wobei Databricks durch Optimierungen eine Reduzierung der generierten Tokens um fast 50 % erreichte.
Die Effizienzgrenze schreitet weitaus schneller voran als die Intelligenzgrenze, wobei fast wöchentlich neue Modelle erscheinen, die eine bessere Intelligenz pro Preiseinheit bieten als frühere Modelle.