world-model-optimizer - Optimización continua de modelos de agentes con menor costo
Show HN: Optimize and serve models with Fable quality at half the cost
world-model-optimizer transforma las trazas de agentes existentes en un ciclo de mejora continua mediante la destilación de modelos de vanguardia. Esta herramienta permite iniciar con un punto final de calidad fronteriza reduciendo los costos en más del 40%. Ofrece simulaciones de modelos del mundo, optimización de meta-harness y destilación de modelos para refinar el rendimiento. Los usuarios pueden sintonizar enrutadores, servir endpoints optimizados y ejecutar agentes en entornos aislados de E2B, asegurando que solo los cambios validados se conviertan en la nueva versión campeona.
Comienza con un punto final de calidad fronteriza con más del 40% de reducción de costos y sigue mejorándolo con simulaciones de modelos del mundo.
- adrianco
Los modelos locales necesitan ser ajustados para funcionar bien, así que esto parece útil. Parece estar pensado para el servicio de modelos de propósito general. He estado usando https://github.com/adrianco/retort para ejecutar experimentos con modelos de programación en 13 lenguajes de programación diferentes para ver qué modelos de vanguardia y locales funcionan mejor.
- h2aichat
No estoy seguro de entenderlo. ¿El modelo que estás mejorando es local? Si es así, ¿cómo calculas el costo en comparación con una API?
- jack_pp
Enfoque interesante. ¿Cómo es la fase de arranque en frío para un nuevo agente? ¿Cuántas trazas o ejecuciones necesitas típicamente antes de que el enrutador tenga suficiente señal para descargar tareas del modelo de vanguardia de forma segura?