代理工具

Agent、MCP、coding agent、工作流自動化與評測。

AI 研究

WISE、再帰型モデルのアテンション対象範囲を再利用し、アテンション処理で1.36倍の高速化を計測

すべての再帰ステップを維持しつつ、初期の探索で後続のアテンション計算の対象範囲を絞る手法。性能の数値はアテンションのワークロードのみを対象としており、4Kコンテキストでの品質低下と公開された再現用資料については、引き続き確認が必要だ。

推論系統

NVIDIA、B200のコンフィデンシャル推論テストを公表、特定のワークロードで96%超のスループットを維持

B200を8基使用してDeepSeek-R1を実行したテストでは、コンフィデンシャルコンピューティングによる1トークン当たりの平均レイテンシーの増加率は5%未満だった。この結果はメモリ転送、カーネルの時間計測、GPU間通信の調整に依存しており、実際のサービスのワークロードに即した再検証が必要だ。