SURL AI News
繁中English日本語

Archive

硬體

AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。

AI 基礎設施

NVIDIA Groq 3 LPXが量産開始：静的スケジューリングにより100Kコンテキストで毎秒3,431出力tokenを実現

Groq 3 LPXは、256基のLP30、128GBのSRAM、コンパイラによって事前スケジューリングされたチップ間転送を統合した低レイテンシdecodeシステムだ。第三者テストでは、長いコンテキストにおいて既存の公開endpointを上回る速度を示したが、コスト、並行処理時のthroughput、本番サービスでの性能はまだ公開されていない。
推論系統

AgentX、長コンテキスト・エージェント推論の結果を公開――固定長ストレステストを実際のワークセッション形状で置き換え

SemiAnalysisは、AgentXのリアルタイム結果と完全なリプレイツールを公開した。複数ターンにわたるコーディングエージェントの軌跡を用いて、GPU、推論エンジン、キャッシュ設計を比較する。公開コーパスでは、リクエスト長、共有プレフィックス、休止、サブエージェントのトポロジーを維持しつつ、元のプロンプトとコードを合成コンテンツに置き換えている。
推論系統

Atlas、同一の推論コアで NVIDIA と AMD の MLPerf エッジエージェント・テストに提出、結果は依然として解禁待ち

Rust／CUDA 推論エンジンの Atlas は、GB10 および AMD gfx1151 システムを使用して MLPerf Inference 6.1 に提出した。テスト対象は、単一アクセラレータ上での複数ターンのツール呼び出しだ。提出状況は公開されているものの、スループットとレイテンシの結果は依然としてエンバーゴ下にあり、現時点でクロスハードウェア性能を判断することはできない。
AI 安全

NemoClaw 0.0.114、読み取り専用MCP呼び出しをモデルの意思決定経路から分離し、イメージとインストールの検証を厳格化

NVIDIAはLangChain Deep Agents Codeに決定論的な読み取り専用MCP呼び出しを追加し、モデルを介さずに制限付きツールを実行できるようにした。新バージョンではコンテナイメージのdigest固定、サプライチェーン検証、機密情報を含むエクスポートのクリーンアップも強化されたが、「読み取り専用」であるかどうかは依然としてツールの登録情報の正確性に左右される。
最新模型

Wan3.0が正式リリース：1回の生成で最長30秒の音声付き動画、文書やWebページも直接入力可能

Alibabaは8月初旬に招待制テストを開始したWan3.0を正式に市場投入し、テキスト、画像、音声・動画、文書、Webページを参照入力として統一的にサポートする。APIは公開済みだが、モデルは依然として招待制テスト扱いで、重み、アーキテクチャ、独立評価はいずれも公開されていない。
推論系統

llama.cpp 0.2.0、安定版とデイリービルドを分離――パッケージメンテナーが互換バージョンを固定可能に

llama.cpp 0.2.0では、更新頻度を抑えた安定版をセマンティックバージョニングで正式に表記し、従来の`b[番号]`タグは各コミットに近い頻度で生成される開発ビルドとして維持する。新制度はDebian、Homebrew、各種ダウンストリームバインディングのバージョンリスクを軽減するが、「安定版」は長期サポートやハードウェアを横断した完全な検証を意味しない。
最新模型

GPT-5.6 Sol、期間限定で出力100万token当たり20ドルに値下げ――超長文プロンプトは依然としてリクエスト全体が割増対象

OpenAIはGPT-5.6 Sol APIの入力価格を20％、出力価格を33％引き下げた。キャンペーンは少なくとも11月21日まで継続する。入力が272K tokenを超えると、リクエスト全体に高い料金が適用されるため、長いコンテキストを扱うエージェントのコストは標準単価だけでは見積もれない。
推論系統

FreeToken、CPU・GPU・PCIeを動的に割り当て、35B MoEを8GBのVRAMで実行

FreeTokenは固定的なオフロードを採用せず、実測帯域幅に基づいて、キャッシュミスしたエキスパートをGPUへ転送するか、CPUで直接計算するかを決定する。論文では単一のワークステーションGPUによる753Bモデルのサービングも実演しているが、全重みには依然としてメインメモリが必要であり、「753Bモデル全体が1枚のGPUに収まる」という意味ではない。
代理工具

NVIDIAのAVO、ARC-AGI-3公開セットの全183レベルを攻略――主要な性能向上はモデル変更ではなくエージェントフレームワークに由来

AVOは永続メモリ、監督エージェント、テキストグリッドインターフェースを活用し、Claude Opus 5で全公開レベルを6,624回の環境アクション以内に完了した。ただし、100点というスコアは公開セットのみを対象としており、セミプライベートまたはプライベートの競技テストに合格したことを意味しない。
最新模型

IARは文書の内在化をInject、質問応答Align、重みのマージに分解し、平均してより多くの汎用能力を維持

北京智源研究院の研究チームが、RAGを使わずに固定文書群に関する質問へ回答できるようにする3段階のポストトレーニング手法を提案した。8つの実験条件のうち7つで通常のSFTを全面的に上回ったが、成果は依然として合成質問応答、モデルジャッジ、モデルごとのハイパーパラメータ調整に依存している。
最新模型

DeepSeek V4-Flash-Vision-Expが画像入力に対応、1Mコンテキストながら依然としてAPI実験版

DeepSeekはV4-Flashに画像理解機能を追加し、互換性のある3種類のインターフェースを通じてテキストと画像を処理できるようにした。料金体系は従来のFlashモデルと同じだが、公式発表のエージェント評価スコアは独立した再現検証がなく、モデルウェイトやビジョンアーキテクチャも公開されていない。
推論系統

SGLang 0.5.18、重みのロードとCUDA Graphをオーバーラップし、Qwen3-32Bのコールドスタートを35.6秒に短縮

新バージョンでは起動時にcheckpoint stagingとCUDA Graph captureを並行処理し、公式のH100テストで通常のデフォルトフローに比べ2.38倍高速化した。テンソル並列通信の一部も刷新し、7つのモデルファミリーを追加した一方、Torchのアップグレードとキャッシュパスの統合に伴う移行コストが発生する。