FireworksのEmber-1、Kimi K3と同等の品質を40%少ないトークンで実現
Fireworks ResearchがKimi K3をベースに開発した特化型モデルEmber-1は、不要な推論を削りつつ品質を維持し、トークン消費を約40%削減。公開ベンチマークや顧客の本番A/Bテスト、社内コーディング業務でK3と同等の精度を確認。推論トークンがコストの大半を占めるエージェント型コーディングなどで、同じ答えをより安く提供する。
最もコスト効率よくK3を動かす方法は、もはや考えさせる量を減らすことではなく、効率的に考えることを学んだEmber-1を動かすことだ。
HNでの議論
180- GodelNumbering
これはモデルトレーニングの黄金時代だ。数日前、英語からBashへの翻訳が異常にうまくできるローカルCPU専用モデルが欲しいと思ったんだ（コマンド構文をググるのを避けるため）。たくさんのサブエージェントに大量のトレーニングデータ（14万件以上のサンプル）を生成させ、Qwen 3 0.6Bベースモデルを手に入れ、Astraをそれに向けて、さあスタート。2日間（時々中断しながら）トレーニングして、自分のタスクには驚くほど良いモデルができた！実際に費やした時間は数時間だけ。しかもまだ改善中だなんて、生きているっていい時代だ！
- tukHelix
Fireworksにモデル研究をしているチームがあると知ったのは初めてだ。それには複雑な気持ちがある。一方で、OSSモデルの改善（知能面でもコスト効率面でも）を見るのはいつでも嬉しい。他方で、FireworksをAPIプロバイダーとして使うことには少し不安を感じる。このニュースを見るまでは、FireworksをDeepSeek V4 Flashのプロバイダーとして使っていた。FireworksはOSSモデルをデプロイして計算リソースを販売する役割だから、利益相反がなく、データがトレーニングに使われる心配もなく安全に使えると思っていたからだ。でも今は二の足を踏むだろう。
- netvarun
オフトピック：Solの価格が下がったことで、正直Kimi K3の価値提案はあまり良くなくなった。我々の内部ユースケース／テスト／ベンチマークでは、Solの方がずっと品質が良く、コストも大幅に安い。Kimiは本当に価格を下げる必要がある（全ネオクラウドで彼らが設定していると聞いた）。Solは2/10に対しKimiは3/15だ。
- fbrncci
新しいモデルがリリースされても、それと対話するまったく新しいパラダイムを導入しない限り、もう感銘は受けないだろう。それがあれば、ベンチマークでは他のすべてが5%の能力もないように見えるはずだ。
- jamienk
「オープン」と何がみなされるかという問題は一旦置いておいて、オープンモデルはこういうものによって急速に進歩し、プロプライエタリなモデルにはできないようなことを可能にするのではないか？まさにLinuxやWikipediaが、例えば彼らの「フロンティア」を追い越した方法ではないか？
- soerxpso
価格差を考えると、なぜこのモデルに興味を持つべきなのかわからない。Kimi K3と同じでトークン数は半分だと宣伝している。しかし価格はK3の2倍だ。トークンあたり2倍払うなら、トークン数が少なくてもなぜ気にするのか？
- tangled
ここで何を見落としているんだ？Fireworksはオープンウェイトモデルを提供する推論プロバイダーだと思っている。彼らが顧客に主に提供する価値は、(i) たくさんのクラウド／ネオクラウド間で負荷分散して信頼性を高める、(ii) 容量を大量購入してより良い価格を得る、(iii) 運用コストを削減する、ということだ。ここまでは良い。
顧客獲得の観点からポストトレーニングサービスを提供するという主張も理解できる。「ほら、このオープンウェイトモデルをファインチューニングできるから、OpenAI/Anthropicより良い／予測可能な結果が得られ、しかも安い。ちなみに、一度我々があなたのビジネスを獲得したら、このモデルを我々のインフラで動かしてください」と。
しかし、私が理解に苦しむのは、Fireworksが（給与と計算資源に）大金を費やして、すぐにフロンティアから取り残されるフロンティアモデルをリリースすることだ。これは彼らにとって「単なる」広告なのか、顧客向けにも採用向けにも？それとも実際にフロンティアに留まろうとしているのか？もしそうなら、何のために？
- Arcuru
/r/LocalLLaMAでは、Qwen 27B（や他の）モデルで同じことをしているグループが人気を集めている。- https://huggingface.co/ukisai