LFM2.5-2.6B: el modelo de Liquid AI compite con modelos 4 veces más grandes
LFM2.5 2.6B model competitive with 4x larger models
LiquidAI presenta LFM2.5-2.6B, un modelo híbrido de 2.6B parámetros diseñado para despliegue en dispositivos. Con una ventana de contexto de 128K y entrenamiento agéntico, supera a modelos mucho más grandes en uso de herramientas y tareas multi-paso. Alcanza 220 tokens por segundo en Apple M5 Max y 113 en CPU AMD, ocupando menos de 2.5 GB de memoria. Es ideal para agentes, extracción de datos y RAG.
LFM2.5-2.6B es el modelo más rápido que probamos, con velocidades de decodificación de 220 tokens/s en un M5 Max y 113 tokens/s en un Ryzen AI Max+ 395.
- vezycash
Siempre pon "menor es mejor" o "mayor es mejor" en los benchmarks. No todo el mundo sabe qué significan tus números.
- lend000
No me imagino quién está usando algo así para codificación agéntica, pero veo oportunidades emocionantes en el horizonte cuando podamos tener cientos de agentes razonablemente racionales y conversacionales trabajando en máquinas locales para simular comportamiento emergente (simulando multitudes, mercados, ecosistemas, NPCs de juegos, etc.).
- Gecko4072
Estos modelos de LiquidAI nunca me han funcionado bien en la práctica.