SURL AI News
繁中English日本語

Archive

硬體

AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。

GitHub Repo

PyTorchコミュニティがNCCL2メモリプールの修正を提案、後続の割り当てで対称通信カーネルが選ばれない可能性

10月13日のPyTorchへの報告によると、NCCL2バックエンドでは対称メモリプールに追加された領域が登録されず、集合通信がringカーネルにフォールバックする可能性がある。修正案にはデュアルGB200でのテストとカーネル経路の比較が含まれるが、まだマージされておらず、エンドツーエンドの性能データも示されていない。
GitHub Repo

Langflow 1.12.6でツール探索経路を修正、MCPツール一覧時に保存済みコンポーネントコードが実行されなくなる

Langflowは10月13日に1.12.6をリリースし、MCPツール一覧とA2A agent cardの入力スキーマ生成時にコンポーネントコードが実行される問題を修正した。修正には実環境での再現と回帰テストが含まれる。公開フローのデプロイ担当者は、カスタムコンポーネントと匿名アクセスの設定を引き続き確認する必要がある。
GitHub Repo

Difyコミュニティが構造化出力の修正を提案、推論ブロック内のJSONが正式な回答として誤選択される可能性

10月13日のDifyコミュニティからの報告によると、正式な回答が設定された形式に合致していても、LLMノードが推論ブロック内のJSONを構造化出力として扱う場合がある。修正案にはストリーミングと非ストリーミングの回帰テストが含まれるが、まだマージされておらず、完全なJSON Schema検証にも対応していない。
GitHub Repo

TransformersコミュニティがGemmaのテンソル並列処理の不具合を報告、TensorとDTensorの混在で推論が中断する可能性

10月12〜13日のTransformers開発版に関する報告によると、Gemma 3および4のマルチモーダルクラスでは、テンソル並列処理時にテンソル型の不一致によって前向き計算を完了できない場合があります。最小再現コードが添付され、報告者は修正案も示していますが、正式リリースへの影響と修正の完全性は未確認です。
GitHub Repo

vLLMコミュニティがMoE LoRAバックエンドの修正を提案、BlackwellではTritonを指定しても起動に失敗する可能性

10月12～13日のvLLMコミュニティからの報告によると、MoE LoRAのバックエンド選択で明示的な設定が無視され、全シャーディングモードで起動エラーが発生する可能性がある。修正案には設定チェックとユニットテストが追加されたが、まだマージされておらず、完全なGPU検証も行われていない。
GitHub Repo

TransformersコミュニティがT5のAttention修正を提案、テンソル配置でSDPAが低速カーネルにフォールバックする可能性

10月12日のTransformersコミュニティの報告によると、T5系列の位置バイアス・テンソルがSDPAによる融合カーネルの使用を妨げ、埋め込み処理の性能低下を招く可能性がある。修正案にはAMDとNVIDIAでのテスト結果が添えられているが、まだマージされておらず、改善幅は実際のワークロードで検証する必要がある。
GitHub Repo

Ollamaコミュニティが報告したプロンプトスループットの計算差異、キャッシュヒットで性能値が過大になる可能性

10月11日のOllamaコミュニティ報告によると、OpenAI互換エンドポイントでは、キャッシュされた分を含むプロンプト総量を未キャッシュ部分の処理時間で割り、プロンプトスループットが過大に表示される可能性があります。事例にはストリーミング応答と再現手順が示されていますが、修正状況やバージョンをまたぐ影響は未確認です。
GitHub Repo

Transformersコミュニティ、Mamba2の正規化におけるグループ分割の欠落を報告　非融合パスが学習時の中核計算と異なる可能性

10月12日のTransformersコミュニティからの報告によると、非融合のRMSNormでは設定されたグループ分割が反映されず、融合学習パスとは異なる出力や勾配が生じる可能性があります。報告にはCPUとCUDAの比較、および局所的な修正の検証が含まれていますが、正式な修正やモデル品質の包括的な評価には至っていません。
GitHub Repo

Ollamaコミュニティがツール引数の精度修正を提案、Goクライアントが大きな整数を書き換える可能性

10月11日のOllamaコミュニティからの報告によると、Goクライアントはツール呼び出しのデコード時に大きな整数や高精度の小数を丸め、書き換えた値を会話履歴に再送する可能性がある。修正案にはストリーミングとデスクトップツールのテストが追加されたが、まだマージされておらず、数値型の変更には互換性への対応も必要だ。
GitHub Repo

PyTorchコミュニティがCUDAバッチSVDの性能差を報告、行列が32次元を超えると逐次実行に切り替わる可能性

10月10日のPyTorchコミュニティの報告によると、CUDAバッチSVDでは行列サイズが32から33に増えると、実行経路の切り替えによって大幅に遅くなる可能性がある。報告には複数環境での計測と修正案が含まれるが、代替ドライバーの精度とのトレードオフや正式な修正状況は、なお確認が必要だ。
GitHub Repo

ONNX Runtime 1.31.0でモデルパッケージAPIが安定化、量子化MoE推論とプラグイン互換性要件を強化

Microsoftは10月9日、ONNX Runtime 1.31.0をリリースした。モデルパッケージとEPContextデータのインターフェースを安定APIに昇格させ、CPUでのモデル読み込みと量子化MoEの実行を改善した。新バージョンはPyPIで公開済みだが、GPUプラグインを使うチームは演算子スキーマの互換性を確認し、実際の性能を自ら測定する必要がある。