Ramp Router senkt KI-Kosten um 40 %
Ramp Launches a Model Router
Ramp hat mit Router einen Model Router vorgestellt, der alle KI-Modelle hinter einem einzigen Endpunkt bündelt und so die Inferenzkosten um durchschnittlich 40 % senkt. Router wählt für jede Anfrage das kostengünstigste Modell, das die Leistungsanforderungen erfüllt, und bietet flexible Routing-Strategien. Bis 2026 ist die Nutzung kostenlos, inklusive 26 $ Startguthaben. Ramp nutzt Router bereits intern und hat damit seine KI-Kosten um über 25 % reduziert.
Bei Ramp hat Router unsere gesamten LLM-Kosten um 30 % gesenkt und gleichzeitig unsere Funktionen intelligenter und schneller gemacht.