Reflection、Beam 1.0の重みを公開　501B MoEに3種類の精度と推測デコード用モデルを用意

Reflectionは10月16日、Beam 1.0の重みを正式に公開し、10月初めのモデル予告を、ダウンロードして自分でデプロイできる段階へ進めた。今回はBF16、FP8、NVFP4の3種類の精度に加え、推測デコード用のドラフトモデルを提供する。重みはApache 2.0ライセンスで公開されており、チームはモデルを自分たちでデプロイし、カスタマイズできる。公式発表

BeamはスパースなMixture of Experts（MoE）アーキテクチャを採用し、総パラメータ数は約5,010億、トークンごとに有効化されるパラメータ数は約230億。最大100万トークンのコンテキストに対応し、入出力はいずれもテキストだ。モデルカードでは、プログラミング、ツール使用、長時間のエージェントタスクを主な用途として挙げる一方、主に英語での開発を想定していると明記している。日本語を使うエンジニアリングチームは、コード生成能力と、日本語での要件理解やドキュメント検索能力を分けて評価する必要がある。公式モデルカード

今回注目されるデプロイ関連の要素は、約19億3,000万パラメータのDFlash2ドラフトモデルだ。このモデルは1回のforward passで候補トークンのまとまりを提案し、Beamがそれを検証する。公式説明によると、棄却サンプリングを使う場合、出力分布は元のモデルと一致する。ドラフトモデルはBeamの複数層の隠れ状態を読み取り、凍結されたトークン埋め込みと出力ヘッドを再利用する。また、ドラフト側のコンテキストコストを抑えるため、4,096トークンのスライディングウィンドウを用いる。学習時のブロック長は16で、サービング時には8が推奨されている。DFlash2モデルカード

評価指標として、公式モデルカードにはSWE-bench Verifiedで81.6、Terminal-Bench 2.1で80.1というスコアが掲載されている。これらは提供元が報告した結果であり、あらゆるエージェントフレームワークで再現できる成功率とみなすことはできない。Reflectionが示す効率比較にも適用範囲の限界がある。初期の技術説明では、有効化パラメータ数と生成トークン数から計算量を推定しており、プロンプトのprefill、コンテキスト長に応じて変化するattentionコスト、サービングのオーバーヘッドは含まれていない。モデル評価、効率の計算方法

エンジニアリングチームが次に行うべきなのは、エージェントフレームワーク、ツールセット、タスクの予算を固定したうえで、3種類の精度の成功率を比較し、推測デコードの受理率とエンドツーエンドのレイテンシを測定することだ。トークンごとに有効化される2,300億ではなく230億というパラメータ数は計算経路を示す値であり、重み全体、KVキャッシュ、並列サービングに必要なメモリは別途見積もる必要がある。また、コンテキスト長が100万トークンまで対応していても、長いコンテキストを低コストで利用できるとは限らない。