Reflection veröffentlicht Beam: 501B offenes Modell für Coding und Agenten

Beam: Reflection's 501B open-weight model

Reflection veröffentlicht Beam: 501B offenes Modell für Coding und Agenten

Reflection stellt Beam vor, sein erstes offenes Modell mit 501 Milliarden Parametern (23 Milliarden aktiv), das auf Coding, Reasoning und agentische Aufgaben spezialisiert ist. Es wurde mit 23,8 Billionen Tokens vortrainiert und erreichte durch hochskaliertes Reinforcement Learning auf 10.500 NVIDIA GB300 GPUs in vier Wochen über 100 Millionen Rollouts. Beam ist konkurrenzfähig mit größeren offenen Modellen wie GLM 5.2 und Qwen 3.8-Max, punktet aber mit deutlich effizienterer Inferenz. Die Gewichte sollen noch diesen Monat erscheinen.

Selbst wenn Beam mit einer Veraltung von einem Tag trainiert wird – 107 Gewichtsversionen hinter der aktuellen Policy –, bleiben die Numeriken stabil.
  1. Ariarule

    Immer schön, mehr Open-Weight-Modelle zu sehen, aber diese Bildunterschrift beim zweiten Demo-Bild hat mich stutzen lassen: "Land or Water Generalization Experiment: We recreated the viral X puzzle by asking Beam to create a fixed 180×90 grid for longitudes -179° to 179° and latitudes -89° to 89°, with 16,200 points. This puzzle is a few days old, so could not appear in the training data, thus testing the model’s generalization. Beam gets 95.5% coverage right, putting us between Opus 5 (92.5%) and Fable 5 (97.8%), which shows how well it generalizes to novel new tasks."

    Oof, nein, dieses "puzzle is a few days old" ist schlicht falsch, auch wenn es erst kürzlich ein Social-Media-Trend war. Ein Modell zu bitten, auf diese Weise eine Weltkarte zu generieren, gibt es _mindestens_ seit August 2025, als es damals auf LessWrong auftauchte: https://www.lesswrong.com/posts/xwdRzJxyqFqgXTWbH/how-does-a...

  2. htrp

    > Beam is a sparse Mixture-of-Experts model with 501 billion total parameters, 23 billion active, built for coding, reasoning, and agentic workloads.

    > Beam’s capabilities come from major investments in both pretraining and reinforcement learning (RL). We pretrained the model on 23.8 trillion diverse, curated, high-quality tokens from the web and proprietary licensed datasets, matching or outperforming available similar-sized open base models. In parallel, we developed the algorithms, training environments, and infrastructure needed to sustain high-compute RL at exceptional scale. Our high-compute RL run generated over 100 million rollouts on 10.5K NVIDIA GB300 GPUs over 4 weeks of training.

    Early Access, keine Gewichte, keine technischen Details, nur ein Sign-up hier für Infos

  3. algoth1

    Leitet dieses hier unter der Haube auch zu Claude weiter, so wie es Reflection 70B getan hat? Ich erinnere mich, dass sie sogar eine einfache Regex laufen ließen, um "Claude" aus der Ausgabe zu entfernen. Dann versprachen sie, im Postmortem völlig transparent zu sein (sie behaupteten, keine Ahnung zu haben, was passiert war), aber das Postmortem kam nie.

  4. wren6991

    Ich fand es interessant, mal ein paar Kennzahlen mit einem anderen zeitgenössischen Modell derselben Gewichtsklasse zu vergleichen (DeepSeek V4.1 Flash)

    DS V4.1F Beam

    LM total params 552B 501B

    LM active params (prefill) 8B 23B

    LM active params (decode) 16B 23B

    N-gram/PLE params 196B 0

    Pretrain tokens 45T 28T

    Disk KV bytes/token (FP4) 890 Keine Information

    Vision Ja (Pretrain) Nein

    Weights verfügbar Ja (Launch-Tag) "Diesen Monat"

    Weights-Lizenz MIT Apache 2.0

    Auf den ersten Blick sind die Benchmarks beeindruckend, aber um Linus zu paraphrasieren: "Talk is cheap, show me the weights." :-)

  5. NorwegianDude

    Größer und trotzdem schlechter als existierende kostenlose chinesische Modelle, die kleiner sind? Open-Weight-Modelle sind schön und gut, aber mittlerweile scheinen westliche Modelle sehr weit hinter chinesischen zurückzuliegen, obwohl chinesische Firmen viele ihrer Erkenntnisse veröffentlichen. Ich hoffe, wir bekommen mehr offene Modelle und mehr Anbieter, denn auf einem Modell aus China oder den USA festzusitzen, ohne Konkurrenz, ist riskant.

    Google macht mit den Gemma-Modellen einen großartigen Job. Es ist eines der wenigen Sprachmodelle, die tatsächlich gut in Sprache sind. OpenAIs beste geschlossene Modelle können nicht mal Norwegisch korrekt schreiben.

  6. efficient_dairy

    Ich finde Open-Weight-Modelle nicht mehr so beeindruckend. MiMo-V2.6 hat bereits gezeigt, dass man mit einer nicht so verrückten Architektur und genug Compute auskommen kann; der Engpass sind dann nur noch die Daten. OAI und Anthropic sind hauptsächlich deshalb Frontier-Modelle, wegen der synthetischen Daten, die sie erstellt haben. Sie haben eine große Kundenbasis und verfügen sowohl über die Daten der Nutzer als auch über das Wissen, für welche Aufgaben ihre Kunden die Modelle einsetzen und für welche Domäne sie synthetische Daten generieren sollten.

  7. onlyrealcuzzo

    Das hier scheint größer zu sein als DeepSeek v4.1 Flash, teurer im Betrieb und bei jeder gemessenen Metrik schlechter.

    Übersehe ich etwas?

  8. reissbaker

    Statt noch eines weiteren mittelmäßigen, aber vollständig im Westen hergestellten offenen Modells (neben Mistral, Trinity, Poolside, Inkling usw. usw.) würde ich mir wirklich wünschen, dass ein westliches Neloab genauso anfängt wie Qwen: mit Fokus auf Post-Training. Qwens erstes Release war ein Llama-1-Finetune [1]! Sobald sie es nützlich gemacht hatten, arbeiteten sie sich im Stack zurück, um auch ihr eigenes Pretraining zu machen usw. Mit Pretraining anzufangen, fühlt sich wie so eine Verschwendung an: Da liegen Millionen von Dollar an kristallisiertem Compute und Daten in den chinesischen Modellgewichten herum. Warum nicht mit einem davon anfangen und sich erst dann zum Pretraining zurückarbeiten, wenn man etwas veröffentlicht hat, von dem man beweisen kann, dass es nützlich ist?

    1: https://en.wikipedia.org/wiki/Qwen

Mehr von diesem Tag

2026-10-05