Echo - Sistema de IA con modelos open-weight a un tercio del costo
Show HN: Echo – Fable-level results at 1/3 the cost using open-weight models
Echo es un sistema de IA que combina un grupo de modelos open-weight, como GLM-5.2 y Kimi K2.7, para cada solicitud decide cuánto cómputo asignar, qué modelos participan y cómo combinar sus resultados. Sorprendentemente, los modelos son complementarios: uno más débil en general puede ser muy útil en problemas específicos. Echo supera consistentemente al mejor modelo individual y alcanza resultados similares a Fable con un tercio del costo de inferencia. Puedes probarlo a través de su interfaz de chat o API compatible con OpenAI, y consultar la metodología de evaluación en su sitio.
Lo que me sorprendió al construirlo fue lo complementarios que son los modelos: un modelo claramente más débil en general puede ser extremadamente útil en problemas particulares o como parte de una combinación.