Reflectionが501Bのオープンウェイトモデル「Beam」を公開、推論効率でフロンティアに挑む
Beam: Reflection's 501B open-weight model

Reflection初のオープンウェイトモデルBeamは、総パラメータ501B・アクティブ23BのスパースMoE。23.8兆トークンで事前学習し、10.5K基のNVIDIA GB300 GPUを4週間使って1億回以上のロールアウトを生成する強化学習を実施。コーディングとエージェントタスクでGLM 5.2に匹敵しつつ、推論計算量は3〜4分の1。Kimi K3などに絶対性能で及ばない場面でも、推論時の効率で優位に立つ。重みや技術レポートは今月中に公開予定。
Kimi K3のようなフロンティアなオープンモデルが生の能力で依然リードする場面でも、Beamの強みは推論時の効率にある。
HNでの議論
167- Ariarule
オープンウェイトモデルが増えるのはいつでも嬉しいけど、2枚目のデモ画像のこのキャプションには二度見してしまった:「陸か水かの汎化実験:バイラルになったXのパズルを再現するため、Beamに経度-179°から179°、緯度-89°から89°の固定180×90グリッドを、16,200点で作成するよう依頼した。このパズルは数日前のものなので、トレーニングデータには含まれ得ず、モデルの汎化をテストできる。Beamは95.5%のカバレッジを正しく取得し、Opus 5(92.5%)とFable 5(97.8%)の間に位置する。これは新しいタスクへの汎化がどれほど優れているかを示している。」
おっと、いや、この「パズルは数日前のもの」というのは、たとえSNSで最近話題になったとしても、間違いだ。モデルにこの方法で世界地図を生成させるというのは、少なくとも2025年8月にはLessWrongに登場していた:https://www.lesswrong.com/posts/xwdRzJxyqFqgXTWbH/how-does-a...
- htrp
> Beamは、総パラメータ数5010億、アクティブ230億のスパースMixture-of-Expertsモデルで、コーディング、推論、エージェントワークロード向けに構築されています。
> Beamの能力は、事前学習と強化学習(RL)の両方への大規模な投資から来ています。ウェブと独自ライセンスのデータセットから厳選された高品質で多様な23.8兆トークンでモデルを事前学習し、利用可能な同規模のオープンベースモデルに匹敵するかそれを上回る性能を達成しました。並行して、並外れた規模で高計算量のRLを維持するために必要なアルゴリズム、トレーニング環境、インフラを開発しました。当社の高計算量RL実行は、4週間のトレーニングで10.5KのNVIDIA GB300 GPU上で1億回以上のロールアウトを生成しました。
早期アクセス、重みなし、技術的詳細なし、情報を得るにはここでサインアップするだけ
- algoth1
これもReflection 70Bのように、内部でClaudeにルーティングされるのだろうか?出力から「Claude」を削除するために基本的な正規表現を実行していたことまで覚えている。その後、ポストモーテムで完全に透明になると約束したが(何が起こったのか全く分からなかったと主張していた)、ポストモーテムは決して来なかった。
- efficient_dairy
オープンウェイトモデルにはもうそれほど感銘を受けない。MiMo-V2.6は、それほど狂ったアーキテクチャでなくても十分な計算資源があれば、ボトルネックはデータだけであることをすでに示した。OAIとAnthropicがフロンティアモデルである主な理由は、彼らが作った合成データにある。彼らは大規模な顧客基盤を持ち、ユーザーのデータを持っているだけでなく、顧客がモデルをどのタスクに使用しているか、どの領域の合成データを取得すべきかを知っている。
- wren6991
同じ重量級の別の現代モデル(DeepSeek V4.1 Flash)と主要な数値を比較するのは面白いと思った。
DS V4.1F Beam
LM総パラメータ数 552B 501B
LMアクティブパラメータ(プリフィル) 8B 23B
LMアクティブパラメータ(デコード) 16B 23B
N-gram/PLEパラメータ 196B 0
事前学習トークン 45T 28T
ディスクKVバイト/トークン(FP4) 890 情報なし
ビジョン はい(事前学習) いいえ
重みの入手可否 はい(発売日) 「今月中」
重みのライセンス MIT Apache 2.0
一見するとベンチマークは印象的だが、Linusの言葉を借りれば:「話は安い、重みを見せてくれ。」 :-)
- NorwegianDude
より大きく、しかも既存の無料の中国製モデルより小さくて劣っている?オープンウェイトモデルはいいが、現時点では西洋のモデルは中国のモデルに大きく後れを取っているように見える。中国企業が多くの発見を公開しているにもかかわらずだ。競争のない中国か米国のモデルに縛られるのはリスクが高いので、より多くのオープンモデルとより多くのプロバイダーが現れることを願っている。
GoogleはGemmaモデルで素晴らしい仕事をしている。実際に言語が得意な数少ない言語モデルの一つだ。OpenAIのトップクローズドモデルはノルウェー語すら正しく書けない。
- onlyrealcuzzo
これはDeepSeek v4.1 Flashより大きく、実行コストが高く、測定されたすべての指標で劣っているようだ。
何か見落としているのだろうか?
- reissbaker
またしても凡庸だが完全に西洋製のオープンモデル(Mistral、Trinity、Poolside、Inklingなどなど)ではなく、西洋のネオラボにはQwenが始めたのと同じように、ポストトレーニングに焦点を当ててほしい。Qwenの最初のリリースはLlama 1のファインチューニングだった[1]!それが使えるものになると、スタックを遡って独自の事前学習なども行うようになった。事前学習から始めるのはあまりにも無駄に思える。中国のモデルの重みには、何百万ドルもの結晶化した計算資源とデータが眠っている。なぜそのうちの一つから始めて、使えると証明できるものをリリースしてから、事前学習に戻らないのか?