Gimlet Labs recauda 300 millones de dólares para su nube de inferencia multisilicio
Gimlet's Series B
Gimlet Labs anuncia una ronda Serie B de 300 millones de dólares liderada por Andreessen Horowitz, con la participación de Arm, Samsung Ventures, Tiger Global Management y otros. La empresa, que construye una nube de inferencia multisilicio desde cero, afirma lograr aceleraciones de 5 a 10 veces para la misma huella de potencia mediante la desagregación granular de modelos en diferentes arquitecturas de chips. Con un pipeline de centros de datos de gigavatios y una capacidad gestionada que escala a cientos de megavatios, Gimlet aborda el cuello de botella crítico de la energía en la inferencia de IA.
Al descomponer el modelo y ejecutarlo en diferentes tipos de aceleradores, somos capaces de lograr aceleraciones de 5 a 10 veces para la misma huella de potencia, o mejoras similares de rendimiento para la misma latencia.