Inceptionの拡散型LLM「Mercury 3」、毎秒1,000トークン超でGPT-6 Lunaを凌ぐ
Inception "Mercury 3", 1000 tok/s diffusion LLM
Inceptionが拡散型LLMの最新版Mercury 3を発表した。パラメータ数はMercury 1の40倍超、知能は3倍に向上しながら、NVIDIA GPU上で毎秒1,068トークンという速度を維持。GPT-6 LunaやClaude Haiku 5.5を上回るベンチマーク結果を示し、コンテキストは100万トークンに拡大した。価格は入力100万トークンあたり0.20ドル。自己回帰型モデルで成り立ったスケーリング則が拡散型にも当てはまることを実証している。
AIコミュニティにあった未解決の問いは、拡散型LLMが複雑なユースケースで自己回帰型モデルと競えるほどスケールできるのか、というものだった。Mercury 3はその問いに答える。できるのだ。