SURL AI News
繁中English日本語

Archive

推論系統

推論 runtime、量化、 serving、KV cache、成本與效能。

代理工具

モジュールの可視情報を制限することで再利用可能な潜在通信を促進、10組のペア実験のうち9組で少なくとも20ポイント上回る

Qwen2.5-0.5Bと同一のLoRAを共有する4つのモジュールが、注意マスクの違いだけでまったく異なる合成戦略を学習した。各モジュールが自身の証拠断片しか見られないよう制限すると、サンプル間で転用可能な中間値通信が形成されやすくなったが、事前登録された全体成功基準には0.0012届かなかった。
最新模型

MidTool、ツール利用を中間学習へ前倒しし、Qwen3-4BのBFCLv3総合スコアを10.5ポイント向上

MidTool-Mixは、Web、PDF、コード、実際のツールインターフェースから203億tokenを合成し、モデルがSFTやRLに進む前に、ツールの境界、パラメータ、ワークフローを学習できるようにする。同一のSFTレシピを適用した場合、Qwen3-4BのBFCLv3総合スコアは39.73%から50.25%へ向上したが、深度検索タスクは依然としてまったく解決できていない。
代理工具

AFANet、6.5万の学習可能パラメータでマルチエージェント障害を診断、ドメイン内推論を199秒から1.16秒に短縮

AFANetはエージェント間の対話を、時間的な接続と同一エージェント内の接続を持つグラフに変換し、2層のGCNで障害エージェントとエラー種別を判定する。AEGIS-Benchでは複数のLLMベースラインを上回ったが、データセットをまたぐエージェント—エラーのペアリングF1は依然として低い。
推論系統

Liquid AI、LFM2.5にDSparkドラフトモデルを追加—H100 1基でデコードを最大3.18倍高速化

Liquid AIは、約3億パラメータのDSparkドラフトモデル3種を公開した。LFM2.5は投機的デコーディングにより、複数の候補tokenを一度に検証できる。batch size 1のgreedy decodingテストでは最大3.18倍の高速化を達成したが、SGLangサポートは依然としてオープン中のPRであり、デプロイの成熟度は今後の検証が必要だ。
最新模型

Open-MOPD、マルチティーチャー蒸留のtoken予算を再配分し、能力統合率を35.6%から83.4%へ向上

Open-MOPDは、マルチティーチャー型オンライン方策蒸留の主なボトルネックが教師間の勾配競合ではなく、ドメインごとに割り当てられる有効なtoken更新量の著しい不均衡にあることを突き止めた。tokenシェアの均衡化、ギャップ指向の割り当て、学生報酬の再計算を組み合わせ、単一の3Bモデルで利用可能な能力向上分の83.4%を回収した。
科學機器學習

Monroe、8,100万分子でグラフモデルを事前学習し、凍結ベクトルとTabPFNの組み合わせでタスク別ファインチューニングを上回る

Monroeは、疎グラフ注意機構、立体化学エッジ、1,152種類の事前学習目標を組み合わせ、凍結した分子ベクトルに対してTabPFNでインコンテキスト予測を行う。Polarisの全28タスクで統計的に最良のグループに入ったが、「勝率100%」には最良手法との有意差がない引き分けも含まれる。
最新模型

循環推論で複数ツールの組み合わせを改善、1B LlamaのBFCL平均スコアが21.4から32.9に上昇

同じTransformer層を再利用し、各tokenを生成する前に隠れ状態を反復更新する手法を研究。同一のデータとLoRA設定で循環モデルと通常モデルを比較したところ、改善は並列呼び出しと呼び出し間の依存関係に集中した。一方、単一のAPI呼び出しが中心のAPI-Bankでは、一貫した優位性は見られなかった。
代理工具

FACET、実行環境を先に構築してからターミナルタスクを生成、9Bエージェントのスコアが8.24ポイント向上

FACETは、指示、コンテナ、参照解法、検証器を同一の実行状態に結び付け、7万1,000件を超えるエージェントスキルから6,078件の検証可能なタスクを合成した。わずか1,200件の成功軌跡でファインチューニングした結果、Qwen3.5-9BのTerminal-Bench 2.1スコアは27.34から35.58へ上昇した。
代理工具

意味保存変換でコーディングエージェントのコストが最大22.9%増、堅牢性ランキングはフレームワーク次第で逆転

同じ修正課題に制御フロー、識別子、デッドコードの書き換えを適用したところ、問題解決率は最大6.7ポイント低下した。モデルの堅牢性はmini-SWE agent、OpenCode、データセットの組み合わせによって入れ替わり、単一のモデルランキングではデプロイ時の性能を予測できない。
AI 基礎設施

Cerebras CS-4、3基のWSE-3Tでラックシステムを構成し、ピーク帯域幅を129.6 PB/sに拡大

CS-4は新しいプロセスへ移行したものではなく、WSE-3のクロック周波数、電力供給、I/Oを強化し、3基のウェハスケールプロセッサーでNexusラックを構成する。推論速度はGPUベースのソリューションと比べて最大30倍と公式にうたうが、PFLOPSやワット当たりスループットについては、比較可能な独立したエンドツーエンドテストが依然として不足している。
推論系統

MoEルーターでキャッシュミスを60%削減するも、パープレキシティ劣化1%の基準を満たせず

事前登録研究で、専門家の局所性をMoEルーターに直接学習させる試みが行われたが、キャッシュ性能の改善とモデル品質の間に明確なトレードオフがあることが判明した。学習済みルーティングと学習不要の再ルーティングを組み合わせることで、ミス率をさらに低減できるものの、それが同程度のエンドツーエンド高速化につながることはまだ実証されていない。