Reflection Beam 1.0: 501BオープンMoEモデル、1Mコンテキスト、Apache 2.0

ReflectionのBeam-1.0-501B-A23Bは、トークンあたり23Bのアクティブパラメータ、1Mトークンのコンテキストウィンドウ、Apache 2.0ライセンスを持つ501Bパラメータのオープンな混合専門家モデルです。これは新しい米国の研究所Reflectionによる最初のモデルであり、フロンティア規模でコーディングとエージェントワークロードをターゲットにしつつ、チームがすでに所有するハードウェア上でデプロイおよびファインチューニングが可能であるという点で重要です。

Beamはテキスト入力、テキスト出力のみです。専用のオープンソースのRustベースのハーネス、ネイティブのtransformersサポート、vLLMおよびSGLangとの初日統合が付属しています。Hugging FaceとReflectionは、このモデルの推論、教師ありファインチューニング（SFT）、強化学習（RL）のレシピも公開しました。

主要仕様一覧

BeamはスパースなMoEモデルであり、各トークンがネットワークの一部のみで計算されるため、はるかに小さいモデルの速度で動作しつつ、大きなモデルの容量を保持します。

  • 合計501Bパラメータ、トークンあたり23Bアクティブ
  • 52層、MoE層あたり256エキスパート、トークンあたり8ルーティング
  • テキスト入力、テキスト出力、1Mトークンのコンテキストウィンドウ
  • チェックポイント形式: BF16、FP8、NVFP4
  • 推論努力レベル: "low"、"medium"（デフォルト）、"high"、"xhigh"、"max"
  • preserve_thinkingによるターン間でのコンテキスト内推論の保持
  • 専用文法によるツール呼び出し
  • トークナイザーに保存された応答テンプレート
  • DFlash2による投機的デコードドラフターモデル
  • 初日ライブラリ: transformers、SGLang、vLLM; Milesによる全パラメータRL
  • Apache 2.0ライセンス

アーキテクチャ: ハイブリッドアテンション、グループ化エキスパート、定常スケールの残差ストリーム

Beamのデコーダーは52層で、隠れサイズは5,120です。最初の3層は高密度のSwiGLU MLPを使用し、残りの49層は混合専門家ブロックに置き換えています。

ハイブリッドアテンション: 43のスライディングウィンドウ層と9のグローバル層

ほとんどの層は、直前の512トークンに対するスライディングウィンドウアテンションを使用します。6層ごと、および最後の層は、全コンテキストに注目します。これにより、43のスライディングウィンドウ層と9のグローバル層が生成されます。

2つの層タイプは位置の扱いが異なります。スライディングウィンドウ層はRoPEを使用します。これは、短いウィンドウ内では相対位置が最も重要だからです。グローバル層は位置エンコーディングをまったく使用しません。代わりに、各クエリは可視トークン数に応じてゆっくりと増加するスケーラーで乗算されます。(1 + (pos + 1) / 2048) ** 0.1。実装ではこれをスケーラブルソフトマックスクエリスケーリングと呼び、コンテキストが長くなるにつれてソフトマックスが平坦化するのではなく精度を維持するための温度として機能します。

アテンションはグループ化クエリアテンションを使用し、48のクエリヘッドと8のキーバリューヘッドを持ち、クエリとキーにRMSNormが適用されます。層入力から計算された学習可能なシグモイドゲートが、出力射影の前にすべてのヘッドのすべてのチャネルをスケーリングします。

混合専門家: 256エキスパート、トークンあたり8ルーティング

49のMoE層のそれぞれに256のエキスパートが含まれ、各エキスパートは中間サイズ2,560（約39Mパラメータ）のSwiGLU MLPです。エキスパートはモデルのパラメータの98.4%を保持します。

ルーターはDeepSeek-V3のグループ制限スキームに従います。256すべてのエキスパートをシグモイドでスコアリングし、32の8グループに分割し、各グループの上位2スコアの合計でランク付けされた上位4グループを保持し、その中から上位8エキスパートを選択します。BeamはDeepSeek-V3と同じグループサイズを使用しますが、共有エキスパートはありません。エキスパート出力は正規化されたルーター重みで結合され、2.5でスケーリングされます。

トークンごとに8エキスパートのみが実行されるため、モデルは各トークンを約23Bパラメータで計算します。256すべてのエキスパートはメモリに残るため、デプロイには501Bモデルのメモリが必要ですが、23Bモデルの速度で実行されます。BF16チェックポイントはsafetensors形式で約1 TBです。NVFP4チェックポイントは、NVIDIA Blackwell GPU向けにほとんどのパラメータを4ビット精度で保存し、一部のパラメータは精度のためにBF16で保持されます。FP8チェックポイントもHubにあり、HopperおよびAmpereシリーズチップに最適とされています。

残差ストリーム: 深さ依存の重みが隠れ状態を一定スケールに保つ

Beamの残差接続は、その最も特徴的なアーキテクチャ上の特徴です。標準的なトランスフォーマーは、各サブレイヤー出力を重み1でストリームに追加するため、ストリームは深さとともに成長します。

Beamは入力埋め込みをステップ1として数えます。ステップkでは、サブレイヤー出力を重み1/sqrt(k)で追加し、既存のストリームを重みsqrt((k-1)/k)で保持します。2つの重みの二乗の合計は1になるため、ストリームは最初の層から最後の層まで一定のスケールを維持します。104回の追加の後、すべてのサブレイヤー出力と入力埋め込みは、最終的な隠れ状態で同じ重みを持ちます。

すべてのサブレイヤーは前後で正規化され、最終的なロジットは±30でtanhソフトキャップを通過し、FP32で計算されます。実装はFP32で計算する場所を固定しています: ルーター、SwiGLU積、ノルム、RoPE、クエリスケーリング、ソフトキャップです。

長いコンテキスト: KVキャッシュはナイーブなレートの約6分の1で成長

ハイブリッドアテンションにより、Beamの1Mトークンコンテキストが実用的になります。各層はトークンあたり2 x 8 KVヘッド x 128次元 = 2,048値をキャッシュします。52層すべてがすべてのトークンを保持する場合、キャッシュはトークンあたり208 KiB成長します。グローバル層のみがシーケンス全体を保持し、43のスライディングウィンドウ層はそれぞれ固定512トークンウィンドウを保持し、成長を停止します。したがって、キャッシュはトークンあたり36 KiB成長し、ナイーブなレートの約6分の1です。

コンテキスト 52層すべてがグローバルだった場合 Beam
32Kトークン 6.5 GiB 1.2 GiB
128Kトークン 26 GiB 4.6 GiB
フルコンテキスト（1M） 208 GiB 36.08 GiB

これらの数値は、シーケンスあたり、BF16、transformersダイナミックキャッシュを使用した場合です。

BF16、FP8、NVFP4にわたるベンチマーク結果

以下の結果はReflectionチームによって提供されています。量子化は3つのチェックポイント形式間で精度をほとんど犠牲にしません。

ベンチマーク Beam (BF16) Beam (FP8) Beam (NVFP4)
エージェントコーディング / ターミナル
DeepSWE v1.1 43.3% 43.0% 42.7%
SWE Bench Pro v2-Hard 76.5% 78.4% 78.6%
SWE Bench Pro v1 66.1% 65.9% 65.6%
Terminal Bench v2.1 80.1% 78.9% 78.2%
SWE Atlas Codebase QnA 31.8% 32.2% 31.4%
SWEBench Multilingual 78.3% 78.1% 77.5%
SWEBench Verified 81.6% 80.2% 80.7%
推論
AIME 2026 97.7% 98.0% 97.5%
HLE（ツールなし） 36.0% 36.0% 34.8%
HLE（ツールあり） 51.1% 51.1% 51.1%
SciCode 49.2% 48.3% 46.9%
CriPT AA 16.3% 17.4% 15.4%
GPQA Diamond 90.6% 90.3% 89.3%
LiveCodeBench 88.3% 88.1% 87.4%
ツール呼び出し / 検索
AutomationBench（公開スプリットのみ） 39.3 38.2 39.8%
MCP Atlas 80.8% 81.5% 80.5%
Tau3 Banking 36.1% 36.8% 35.4%
BrowseComp w/ コンテキスト管理 76.8% 76.7% 75.6%
DeepSearchQA w/ コンテキスト管理 80.5% 79.6% 81.1%
一般的な機能
AA-LCR 78.2% 79.4% 78.7%
LongBench v2 67.5% 67.6% 67.2%
IFBench 79.6% 80.7% 79.2%
AA Omniscience（インデックス、公開スプリットのみ） 10.8 8.8 9.8

ハードウェア要件: NVFP4が最も実用的なサービングパス

Beamをサービスする最も実用的な方法はNVFP4チェックポイントです。これは501BパラメータをBF16の1 TBから約280 GBに縮小し、BF16チェックポイントの品質のほとんどを保持します。Blackwell GPUはNVFP4をネイティブに実行しますが、H200などのBlackwellより古いGPUは実行できません。FP8チェックポイントは、Blackwell以前のハードウェア向けのオプションです。

B200には180 GBのHBM3eがあるため、2台（360 GB）でBeamの重みを保持できますが、アクティベーションとKVキャッシュ用のスペースはほとんどありません。ガイダンスは、4台のB200（720 GB）を計画することです。これにより、長いコンテキストと同時リクエストの余地が生まれます。Beamは、フル8xB200ノード、それぞれ288 GBの2台のB300、または8xRTX Pro 6000でもサービスできます。Blackwellハードウェアを持たないチームは、Hugging Face Inference Providersを通じてモデルをテストできます。

推論サポート: transformers、vLLM、SGLangでの初日サポート

Beamはtransformers、SGLang、vLLMで初日サポートがあります。

Transformers

最新のtransformersリリースをインストールします:

pip install -U "transformers>=5.20.1"

最も簡単なエントリポイントはテキスト生成パイプラインです。これは、Beamの応答が応答テンプレートによってすでに解析されたチャット全体を返します。より低レベルの制御には、AutoModelForCausalLMとAutoTokenizerを使用します。

Beamのトークナイザーには応答テンプレートが含まれています。parse_responseはそれを読み取り、生の出力を推論、回答、ツール呼び出しを別々のフィールドに持つメッセージ辞書に変換し、推論と回答とツール呼び出しを分割する通常の正規表現を回避します。ルールはトークナイザーに付属しているため、解析された構造はBeamが生成するようにトレーニングされたものと一致します。チャットテンプレートはアシスタントターンの一部を事前に書き込むことができ、パーサーがそれを確認する必要があります。

ツール呼び出しの場合、toolsをparse_responseにも渡します。Beamはツール呼び出し引数を独自のXMLスタイルの文法でインラインで書き込むため、裸の7は数値または文字列になる可能性があります。ツールスキーマを使用すると、パーサーは各引数を宣言された型にキャストします。

transformersでのマルチGPUおよびマルチノード

Beamの設定はエキスパート並列プランを定義します。エキスパート並列は各エキスパートを1つのデバイスに配置し、アテンション、高密度層、埋め込み、LMヘッドはすべてのデバイスで複製されます。これは8Bパラメータ、つまりBF16で16 GBです。ロードにはDistributedConfigを使用し、tp_sizeとep_sizeをワールドサイズに設定します。16台のH200 GPUでtorchrunを使用して起動すると、各GPUは78 GBの重みを保持します。8 GPUでは各139 GBを保持し、141 GBのH200には余裕がありません。デバイス数はエキスパート数256を分割できる必要があります。

vLLM

BeamはvLLMで初日サポートがあります。このコマンドは、16 GPU（2つの8x H200ノード）にわたるテンソル並列でBF16チェックポイントをサービスし、OpenAI互換APIを公開します:

vllm serve reflection/Beam-1.0-501B-A23B --tensor-parallel-size 16 --served-model-name beam

より高速な生成のために、DFlash2投機的デコードを追加します。小さなドラフターモデルが最大15トークン先を提案し、Beamはそれらすべてを1つのフォワードパスでチェックするため、各ステップで複数のトークンを受け入れることができます。コストはドラフター用の少しの追加メモリです:

vllm serve reflection/Beam-1.0-501B-A23B \
  --tensor-parallel-size 16 \
  --speculative-config '{ "method": "dflash", "model": "reflection/dflash2-drafter-preview", "num_speculative_tokens": 15 }'

両方のコマンドはOpenAI互換サーバーを起動するため、任意のOpenAIクライアントがhttp://localhost:8000/v1を指すことができます。

SGLang

BeamはSGLangでも初日サポートがあり、推奨構成ではDFlash2投機的デコードが有効になります。Blackwellでは、NVFP4チェックポイントは4台のB300に収まります:

python -m sglang.launch_server \
--model-path reflection/Beam-1.0-501B-A23B-NVFP4 \
--served-model-name beam \
--tp 4 \
--attention-backend trtllm_mha \
--page-size 64 \
--context-length 1048576 \
--mem-fraction-static 0.85 \
--enable-unified-memory \
--speculative-algorithm DFLASH \
--speculative-draft-model-path reflection/Beam-1.0-501B-A23B-DFlash2 \
--speculative-dflash-block-size 8 \
--tool-call-parser beam --reasoning-parser beam \
--host 0.0.0.0 --port 30000

Hopper GPUでは、代わりに8台のH200でFP8チェックポイントを使用します。変更されるフラグは3つだけです: チェックポイント、テンソル並列サイズ（4ではなく8）、アテンションバックエンド（Blackwellが必要なtrtllm_mhaではなくfa3）。

Inference ProvidersとInference Endpoints

BeamはHugging Face Inference Providersで利用可能で、Baseten、Fireworks、Togetherが提供し、さらに追加される予定です。OpenAI互換ルーターhttps://router.huggingface.co/v1でモデルID reflection/Beam-1.0-501B-A23B:autoを使用してアクセスできます。

Hugging Faceはまた、カタログからFP8またはNVFP4でInference EndpointsにワンクリックデプロイするためのBeamレシピ、またはhf CLIを介して設定しました:

hf endpoints catalog deploy --repo reflection/Beam-1.0-501B-A23B --name beam

バイブ評価: 低および高推論努力での5つのタスク

Hugging Faceは、ベンチマークではなく、いわゆるバイブ評価を5つのタスクで実行し、それぞれ低および高推論努力でReflectionプラットフォームを通じて1回ずつ実行しました。完全な入力、出力、API使用量、タスクフィクスチャ、採点者、会話トレースは公開Hugging Faceバケットにあります。

カテゴリ プロンプトの説明 低推論（トークン） 高推論（トークン）
マルチステップツール呼び出し ORD-742を完了: 在庫、予約、追加料金、到着日を比較し、最も安価な適格な倉庫を予約します。 合格、544 合格、811
コードベース上の長いコンテキスト検索 3つの完全なソースファイルからClickコマンド設定と2つの呼び出し結果を導出し、6つの実装シンボルを引用します。 不合格、1,613 合格、5,007
サンドボックスでのターミナルタスク CSV台帳CLIを検査して修復し、すべてのバグを修正し、テストを保持し、テストとCLIチェックを実行します。 合格、582 合格、1,548
数学推論（AIMEスタイル） {1, …, 16}の8要素サブセットのうち、合計が17で割り切れるものはいくつありますか？正当化を与えてください。 部分、829 合格、2,809
構造化出力 順序が乱れたリビジョンログを厳密なJSONに変換: パッチ、キャンセル、null、日付、通貨、合計をマージします。 合格、1,040 合格、2,088

ソースには2つの注意点が記載されています。低努力の長いコンテキストタスクでは、応答はすべてのコード動作と6つのソース引用が正しかったものの、パーサーの形式に対応しておらず、著者はこれをプロンプトの曖昧さに一部起因するとしています。低努力の数学タスクでは、モデルは正しい答えを返しましたが、要求された正当化を省略しました。高努力の実行では、独立してレビューされた正しい1の冪根の証明を提供しました。

ポストトレーニング: TRLによるSFTとMilesによるGRPO

Beamはカスタムユースケース向けにファインチューニングでき、Hugging Faceは教師ありファインチューニングと強化学習のためのTRLとMilesの例を公開しました。

TRLによるSFT

Beamを独自のデータに適応させる最も迅速な方法は、TRLのSFTTrainerを使用した教師ありファインチューニングです。メモリを管理可能に保つために、公開された例では501Bパラメータすべてを更新するのではなく、PEFTを使用してLoRAアダプターをトレーニングします。目標は、ユーザーが要求した言語でBeamの推論を維持することであり、Multilingual-ThinkingデータセットでLoRAを使用してファインチューニングし、ベースモデルを凍結したまま小さなアダプター重みのセットをトレーニングします。

セットアップは、ロード時のモデルシャーディング、エキスパート並列、FlashAttention 4、シーケンスパッキングを組み合わせます。LoRA SFTは8台のB300 GPUを搭載した単一ノードに収まり、約19,000トークン/秒に達します。対応するH100セットアップは4ノードを使用します。

Multilingual-Thinkingの1エポック後、Beamは16の保留プロンプトすべてで要求された言語で推論しました。ベースモデルは16のうち3でした。ソースは、この小さな評価が言語順守を測定するものであり、推論自体の正確性を測定するものではないと述べています。

MilesによるGRPO

ReflectionとRadixArkは、MilesでGRPOを使用してモデルをBF16でトレーニングするレシピを構築しました。フルモデルを更新するか、LoRAを使用してベースの重みを凍結したままアダプターをトレーニングできます。Megatronがトレーニングし、SGLangがロールアウトを生成し、Milesは各更新後に新しい重みをロールアウトエンジンに公開します。

ワークロード 参照構成
推論 / 評価、BF16 エンジンあたり16x H200
フルパラメータGRPO、BF16（Miles） 96x H200: 64トレーニング、32ロールアウト。または64x H200コロケート。
LoRA GRPO、BF16（Miles） 32x H200: 16トレーニング、16ロールアウト。
フルパラメータGRPO、BF16、128トークンコンテキスト（Miles） 48x H200: 32トレーニング、16ロールアウト。ReflectionとRadixArkが実際のチェックポイントで最初に検証したセットアップ。

レシピはDAPO-Math-17KでGRPOを実行し、AIME25で評価します。ロールアウトは次のように機能します:

  • サンプル: 32のプロンプトがモデルに渡され、それぞれ8つの応答があります。2つのSGLangエンジンが16 GPUそれぞれでロールアウトをサービスします。
  • スコア: ボックス化された回答がラベルと照合され、長さ制限に近い応答にはソフトペナルティがあります。
  • 更新: 256すべてのサンプルで1つのオプティマイザステップ。グループ相対アドバンテージ、切り捨て重要度サンプリング、KLまたはエントロピーペナルティなし。
  • 並列トレーニング: テンソル並列8、エキスパート並列8、データ並列8、シーケンス並列と完全再計算。
  • オプティマイザ: 一定の1e-6のAdam。勾配はBF16、マスター重みはFP32、モーメントはBF16。オプティマイザ状態はノードローカルNVMeをストリーミングするため、各トレーナーノードには2 TBのスクラッチが必要です。
  • 評価: 5ロールアウトごとにAIME25、問題あたり8サンプル。チェックポイントは20ごとに保存されます。

次のロールアウトは現在のトレーニング中に生成されるため、応答は1更新遅れます。--resumeを追加すると最後のチェックポイントから続行され、execute-colocateは8ノードで同じレシピを実行し、すべてのGPUが順番にトレーニングとサービングを行います。

フルパラメータGRPOは、4,000トークンの出力制限でAIME 2025の精度を46.25%から55.8%に引き上げました。LoRA GRPOは、Beamのアテンション、高密度MLP、エキスパート層にランク16アダプターをトレーニングし、AIME 2025の精度を42.9%から64.2%に引き上げ、平均出力長は3,188から2,197トークンに減少しました。LoRAレシピではアダプター重みのみがSGLangと同期され、オプティマイザ状態はGPUメモリに留まるため、NVMeオプティマイザオフロードの必要性がなくなります。

Hugging FaceがBeamで構築したもの

Hugging Faceは、Beamがコーディングおよびエージェントモデルとして何ができるかを示すために3つのデモンストレーションプロジェクトを実行しました。

ネイティブmacOSディクテーションアプリ

Beamは、メインウィンドウやアカウントのないコンパクトな録音ピルを備えたネイティブmacOSメニューバーディクテーションアプリであるBeamSpeakを構築するよう依頼されました。このアプリは⌘⇧Spaceを使用してマイク録音を開始および停止し、経過時間、マイクレベル、文字起こしステータスを表示し、MLXを介してParakeet v3を使用して音声認識を完全にローカルで実行し、録音間でモデルをロードしたままにします。元のアプリがフォーカスされたままでアクセシビリティ権限が付与されている場合は、文字起こしを元のアプリに貼り付け、それ以外の場合はEnterを押さずにクリップボードにコピーします。ビルドにはPiコーディングハーネスを備えたBeamを使用しました。保存された実行にはフォローアッププロンプトが含まれ、最終ソースには後のCodex修復も含まれています。

ProgramBenchでのマルチエージェントスケーリング

Beamがエージェント間でプログラミングタスクを分割することでより速く進歩するかどうかをテストするために、Hugging FaceはBeamをオープンソースのPiコーディングエージェントとペアにし、3つのセットアップを比較しました: 1つのエージェントが単独で作業、5つの永続的なピアが共有Gitリポジトリを通じて協力、リードエージェントが非同期サブエージェントに作業を委任。ハーネスはHugging Faceジョブで実行され、推論はReflectionのプラットフォームAPIを通じて行われました。

タスクはProgramBenchから来ており、エージェントはソースコードや評価者のテストを見ずに、コンパイルされた実行可能ファイルとドキュメントからプログラムを再作成する必要があります。各セットアップには、タスクごとに同じ8M APIトークンの上限と2時間のソルバー制限があり、エージェント間で共有されました。公開された結果は15の元のエピソードすべてを保持していますが、現在の図はjq、xsv、FIGlet、hexylの事後サブセットを示しています。ripgrepは、保存されたアーティファクトの採点が遅すぎるため、3つのセットアップすべてから除外されました。時間軸は、経過壁時計時間ではなく、モデルトークンの固定参照レートと測定されたツール時間を使用します。

ファインチューニングされたインシデントトリアージ決定モデル

Hugging Faceは、コーディングエージェントがインシデントトリアージポリシーを小さくて高速な決定モデルに変換できるかどうかをテストしました。タスクは、開発者のインシデントを読み、担当チーム、その重大度、誰かをすぐにページングする必要があるかどうかを選択することでした。ワークフローはBeamで始まり、Beamのクォータが尽きた後、PiでGLM-5.3で続行されました。

Unslothを使用して、チームはQwen3.5-0.8Bをファインチューニングし、これらの選択肢を直接スコアリングしました。ワークフローはまず、トレーニング、キャリブレーション、テスト用にインシデントクラスターで分割された2.3kインシデントの合成データセットを構築し、次にScience Slurmクラスターの1台のH100 80GBで4ビットバックボーンを使用して、LoRAアダプターと決定ヘッドを3エポックトレーニングしました。ベースラインとして、未適応モデルは完全なトリアージポリシーとチケットでプロンプトされ、例なしで、3つの決定をJSONとして生成するように求められました。同じ320の合成テストチケットで、ファインチューニングされた決定モデルは76.25%で3つの回答すべてが正しく、プロンプトされたゼロショットの4.69%に対して、平均チケットレイテンシは1,218.06 msから102.58 msに低下しました。これは11.9倍の高速化です。

Beamで構築: $10,000 Hubクレジットプログラム

Reflectionは、Beamを使用する最優秀プロジェクトに$10,000のHugging Face Hubクレジットを提供しています。参加するには、Space、モデル、またはデータセットリポジトリを構築し、モデルのリポジトリページで共有します。提案されるプロジェクトタイプには、SpacesでのBeamを使用したデモ、お気に入りのハードウェア向けの量子化、特定の問題向けの合成データセット、Beamを使用してまたはBeam用に構築されたRL環境、または共有結果を使用したBeamのベンチマークが含まれます。

Beamがオープンモデルのデプロイメントに意味すること

Beamの重要性は、フロンティア規模のパラメータをApache 2.0ライセンスの下に置き、フロンティア規模のクラスターを必要としないデプロイパスを提供することです。トークンあたり23Bのアクティブパラメータ、ナイーブなレートの約6分の1で成長するKVキャッシュ、約280 GBのNVFP4チェックポイントの組み合わせにより、4台のB200構成がサービングの実用的なターゲットであり、H200でのFP8がBlackwell以前の代替手段です。

モデルはテキストのみで、一般的なマルチモーダル使用ではなく、コーディングとエージェントワークを対象としています。そのツールの選択肢（トークナイザーの応答テンプレート、専用のツール呼び出し文法、5つの推論努力レベル、ターン間で持続する推論のためのpreserve_thinking）はすべて、単一ターンのチャットではなく、マルチステップのエージェントループに向けられています。

Sources