Ember-1 de Fireworks reduce a la mitad los tokens de Kimi K3 sin perder calidad
Fireworks Research presenta Ember-1, un modelo especializado que iguala la calidad de Kimi K3 usando un 40% menos de tokens. Entrenado sobre Kimi K3, elimina el razonamiento innecesario y conserva el que importa. En pruebas A/B con clientes y en cargas internas de coding, mantiene la precisión con aproximadamente un 35% menos de tokens por tarea. Ya está disponible como Research Preview en Serverless.
La forma más optimizada en coste de ejecutar K3 ya no es hacer que piense menos, sino ejecutar Ember-1, el modelo que aprendió a pensar de forma eficiente.
- GodelNumbering
Esta es la edad de oro del entrenamiento de modelos. Hace unos días, decidí que quería un modelo local solo para CPU que funcionara excepcionalmente bien para la traducción de inglés a Bash (para evitar tener que buscar en Google la sintaxis de los comandos). Conseguí un montón de subagentes para generar una gran cantidad de datos de entrenamiento (más de 140k muestras), tomé el modelo base Qwen 3 0.6B, apunté Astra a él y a correr. Se entrenó durante 2 días (de forma intermitente) y ¡obtuve un modelo sorprendentemente bueno para mi tarea! El tiempo activo total que pasé fue de unas pocas horas. Y sigue mejorando, ¡qué época para estar vivo!
- tukHelix
Es la primera vez que sé que fireworks tiene un equipo haciendo investigación de modelos. Tengo sentimientos encontrados al respecto. Por un lado, siempre me alegra ver mejoras en los modelos OSS, ya sea en inteligencia o en eficiencia de costes. Por otro lado, me preocuparía un poco usar fireworks como mi proveedor de API. Hasta el momento en que vi esta noticia, había estado usando fireworks como mi proveedor de deepseek v4 flash, porque pensaba que fireworks, al actuar como un rol que despliega modelos OSS y vende recursos de cálculo, debería ser seguro de usar sin preocupación de que los datos se usen para entrenamiento, ya que no hay "conflicto de intereses". Pero ahora me lo pensaría dos veces.
- netvarun
Fuera de tema: con la bajada de precios de sol, sinceramente la propuesta de valor de kimi k3 no ha sido tan buena. Para nuestro caso de uso interno/pruebas/benchmarks, sol sale con mucha mejor calidad y costes mucho más baratos.
Kimi realmente necesita bajar sus precios (escuché que los fijan ellos en todos los neoclouds)
Sol está a 2/10 vs kimi's 3/15
- nxtfari
Cuanto más aprendo sobre Fireworks, más desagradable me parece como empresa. No me importa lo que diga la licencia, Moonshot ha estado mejorando abiertamente, compartiendo investigación y proporcionando pesos para los modelos que constituyen toda tu línea de negocio, ¿y en el momento en que puedes mejorarlos recíprocamente son pesos cerrados, "esto es nuestra propia propiedad"? ¿A dónde hemos llegado que China tiene mejor ética de código abierto que América?
- jamienk
Dejando de lado por un momento los problemas de qué "cuenta" como abierto, ¿no avanzarán rápidamente los modelos abiertos debido a cosas como esta de maneras que les resultan menos posibles a los propietarios? Esto es exactamente cómo Linux y Wikipedia, por ejemplo, superaron a sus "fronteras", ¿verdad?
- Arcuru
En /r/LocalLLaMA hay un grupo que se ha vuelto popular haciendo lo mismo para los modelos Qwen 27B (y otros). - https://huggingface.co/ukisai
- tangled
¿Qué me estoy perdiendo aquí? Pienso en fireworks como un proveedor de inferencia que sirve modelos de pesos abiertos. El valor que principalmente proporcionan a los clientes es que (i) mejoran la fiabilidad al equilibrar entre un montón de nubes/neonubes, (ii) obtienen mejores precios al comprar capacidad al por mayor, y (iii) reducen los costes operativos. Hasta ahí bien.
También puedo ver el argumento de proporcionar un servicio de post-entrenamiento desde una perspectiva de adquisición de clientes: "oye, podemos ajustar este modelo de pesos abiertos, así que da resultados mejores/más predecibles que OpenAI/Anthropic y además es más barato. Y por cierto, una vez que hayamos ganado tu negocio, por favor ejecuta este modelo en nuestra infraestructura".
Pero lo que me cuesta entender es que fireworks gaste un montón de dinero (en salarios y cómputo) lanzando un modelo frontera que va a quedarse rápidamente atrás de la frontera. ¿Es esto "solo" publicidad para ellos, tanto para clientes como para contratación? ¿O están intentando realmente mantenerse en la frontera? Si es así, ¿con qué fin?
- soerxpso
No veo por qué me interesaría este modelo, considerando la diferencia de precio. Anuncian que es lo mismo que Kimi K3 en la mitad de tokens. Pero el precio es el doble del precio de K3. Así que, ¿por qué me importa si usa menos tokens, si estoy pagando el doble por token?