Gimlet Labs sichert 300 Millionen Dollar für schnellere KI-Inferenz
Gimlet's Series B
Gimlet Labs gibt eine Series-B-Finanzierung in Höhe von 300 Millionen US-Dollar bekannt, angeführt von Andreessen Horowitz. Das Unternehmen entwickelt eine Multi-Silicon-Cloud für KI-Inferenz, die Workloads dynamisch auf verschiedene Chip-Architekturen verteilt. Dadurch erreicht es laut eigenen Angaben 5- bis 10-mal höhere Geschwindigkeit bei gleichem Stromverbrauch. Der Bedarf an schnellen Tokens steigt durch agentische Workloads, größere Modelle und längere Kontextfenster. Gimlet will mit seiner heterogenen Infrastruktur sowohl hohen Durchsatz als auch niedrige Latenz bieten.
Durch die Aufteilung des Modells und den Betrieb auf verschiedenen Arten von Beschleunigern erreichen wir 5- bis 10-mal schnellere Geschwindigkeiten bei gleicher Leistungsaufnahme oder ähnliche Durchsatzverbesserungen bei gleicher Latenz.