Reflection выпускает Beam — открытую модель на 501 млрд параметров с рекордной эффективностью инференса

Beam: Reflection's 501B open-weight model

Reflection выпускает Beam — открытую модель на 501 млрд параметров с рекордной эффективностью инференса

Reflection представила Beam — свою первую открытую MoE-модель с 501 млрд общих параметров и 23 млрд активных, ориентированную на код, рассуждения и агентные задачи. Модель обучена на 23,8 трлн токенов, а RL-этап включал более 100 млн роллаутов на 10,5 тыс. GPU NVIDIA GB300. Beam конкурентоспособна с GLM 5.2 и Qwen 3.8-Max, но требует в 3–4 раза меньше вычислений на инференсе. Веса и технический отчёт обещают выпустить в этом месяце.

Даже при обучении Beam с однодневным устареванием — на 107 версий весов позади текущей политики — численные результаты остаются стабильными.
  1. Ariarule

    Всегда рад видеть новые модели с открытыми весами, но подпись ко второму демо-изображению заставила меня перечитать её дважды: "Эксперимент по обобщению суши и воды: Мы воссоздали вирусную X-головоломку, попросив Beam создать фиксированную сетку 180×90 для долгот от -179° до 179° и широт от -89° до 89°, с 16 200 точками. Этой головоломке несколько дней, поэтому она не могла попасть в обучающие данные, что проверяет обобщение модели. Beam достигает 95,5% правильного покрытия, что ставит нас между Opus 5 (92,5%) и Fable 5 (97,8%), что показывает, насколько хорошо она обобщает на новые задачи."

    Ох, нет, это "головоломке несколько дней" неверно, даже если это тренд в соцсетях появился только недавно. Просьба к модели сгенерировать карту мира таким способом появилась _как минимум_ в августе 2025 года, когда она была опубликована на LessWrong: https://www.lesswrong.com/posts/xwdRzJxyqFqgXTWbH/how-does-a...

  2. htrp

    > Beam — это разреженная модель Mixture-of-Experts с 501 млрд общих параметров, 23 млрд активных, созданная для программирования, рассуждений и агентных нагрузок.

    > Возможности Beam обусловлены крупными инвестициями как в предобучение, так и в обучение с подкреплением (RL). Мы предобучили модель на 23,8 трлн разнообразных, отобранных, высококачественных токенов из веба и проприетарных лицензированных наборов данных, достигнув или превзойдя доступные открытые базовые модели аналогичного размера. Параллельно мы разработали алгоритмы, среды обучения и инфраструктуру, необходимые для поддержки высокопроизводительного RL в исключительном масштабе. Наш высокопроизводительный RL-запуск сгенерировал более 100 млн роллаутов на 10,5 тыс. GPU NVIDIA GB300 за 4 недели обучения.

    Ранний доступ, ни весов, ни технических деталей, только регистрация здесь для получения информации

  3. algoth1

    Эта тоже под капотом маршрутизируется в Claude, как делала Reflection 70B? Помню, они даже использовали простой regex, чтобы удалить "Claude" из вывода. Потом они обещали быть полностью прозрачными в постмортеме (утверждая, что понятия не имели, что произошло), но постмортем так и не появился

  4. wren6991

    Мне показалось интересным сравнить некоторые ключевые цифры с другой современной моделью того же весового класса (DeepSeek V4.1 Flash)

    DS V4.1F Beam

    Всего параметров LM 552B 501B

    Активных параметров LM (prefill) 8B 23B

    Активных параметров LM (decode) 16B 23B

    N-gram/PLE параметры 196B 0

    Токенов предобучения 45T 28T

    Байт KV на токен на диске (FP4) 890 Нет информации

    Зрение Да (предобучение) Нет

    Веса доступны Да (в день запуска) "В этом месяце"

    Лицензия весов MIT Apache 2.0

    На первый взгляд бенчмарки впечатляют, но перефразируя Линуса: "Болтовня дешева, покажи мне веса." :-)

  5. NorwegianDude

    Больше и всё ещё хуже существующих бесплатных китайских моделей, которые меньше? Открытые весовые модели — это хорошо, но на данный момент кажется, что западные модели сильно отстают от китайских, несмотря на то, что китайские компании публикуют много своих находок. Надеюсь, мы получим больше открытых моделей и больше провайдеров, так как застрять с моделью из Китая или США без конкуренции рискованно.

    Google отлично справляется с моделями Gemma. Это одна из немногих языковых моделей, действительно хорошо владеющих языком. Лучшие закрытые модели OpenAI даже не могут правильно писать по-норвежски.

  6. efficient_dairy

    Открытые весовые модели меня больше не впечатляют. MiMo-V2.6 уже показала, что можно иметь не слишком безумную архитектуру и достаточно вычислений, тогда узким местом становятся просто данные. OAI и Anthropic в основном являются фронтирными моделями благодаря синтетическим данным, которые они создали. У них большая клиентская база, и у них есть данные пользователей, а также знание того, для каких задач клиенты используют модели и для какой области им следует получать синтетические данные.

  7. onlyrealcuzzo

    Похоже, эта модель больше, чем DeepSeek v4.1 Flash, дороже в эксплуатации и хуже по всем измеряемым метрикам.

    Я что-то упускаю?

  8. reissbaker

    Вместо ещё одной посредственной, но полностью сделанной на Западе открытой модели (наряду с Mistral, Trinity, Poolside, Inkling и т.д. и т.п.) я бы очень хотел, чтобы западный neloab начал так же, как Qwen: сосредоточившись на пост-обучении. Первый релиз Qwen был файнтюном Llama 1 [1]! Как только они сделали его полезным, они начали двигаться назад по стеку, чтобы также заняться собственным предобучением и т.д. Начинать с предобучения кажется такой тратой: в китайских весах моделей лежат миллионы долларов кристаллизованных вычислений и данных. Почему бы не начать с одного из них и не вернуться к предобучению только после того, как вы выпустите что-то, что сможете доказать как полезное?

    1: https://en.wikipedia.org/wiki/Qwen

Ещё за этот день

2026-10-05