LFM2.5-2.6B: el modelo de Liquid AI compite con modelos 4 veces más grandes
LFM2.5 2.6B model competitive with 4x larger models
LiquidAI presenta LFM2.5-2.6B, un modelo híbrido de 2.6B parámetros diseñado para despliegue en dispositivos. Con una ventana de contexto de 128K y entrenamiento agéntico, supera a modelos mucho más grandes en uso de herramientas y tareas multi-paso. Alcanza 220 tokens por segundo en Apple M5 Max y 113 en CPU AMD, ocupando menos de 2.5 GB de memoria. Es ideal para agentes, extracción de datos y RAG.
LFM2.5-2.6B es el modelo más rápido que probamos, con velocidades de decodificación de 220 tokens/s en un M5 Max y 113 tokens/s en un Ryzen AI Max+ 395.