SURL AI News
繁中English日本語

Archive

硬體

AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。

GitHub Repo

TransformersコミュニティがMask2Formerのパラメータ登録漏れを報告、投影層がモデルとともにGPUへ移動しない可能性

10月17日のTransformersコミュニティからの報告によると、Mask2Formerの一部の投影層は通常のPythonリストに保存されており、オプティマイザーやデバイス移動の処理から漏れる可能性があります。コミュニティから修正案が提出されていますが、正式な修正版と実際のセグメンテーション精度への影響はまだ確認されていません。
GitHub Repo

ROCmメンテナー、PyTorchパッケージの不整合は緩和されたと確認　安定版チャネルの文書にはalpha版が残存

ROCm TheRockのメンテナーは10月16日、PyTorchのリリース工程におけるパッケージの不整合を修正または緩和したと報告した。修正ではバージョンの紐付けを導入し、正式ブランチのバージョン番号を調整したが、公式インストール文書には一部のalphaパッケージが引き続き記載されており、デプロイ担当者は実際の組み合わせを確認する必要がある。
GitHub Repo

Difyコミュニティが知識分割の修正を提案、文字単位の分割で中国語やリストの改行が削除される可能性

Difyコミュニティは10月15日、知識ベースの分割処理が文字単位の分割にフォールバックすると、単独の改行が削除され、独立していたデータ行が連結されると報告した。10月16日には、再現を確認したコントリビューターが修正を提案したが、まだマージされておらず、検索への実際の影響は未測定だ。
最新模型

NVIDIA、混合アーキテクチャと推測デコードでマルチモーダルエージェントを支援するNemotron 3.5 Super VLを発表

NVIDIAは10月15日、Nemotron 3.5 Super VLを公開した。BF16とNVFP4の重みを提供し、テキスト、画像、動画の理解とツール呼び出しを統合する。公式は長い対話ターンを重ねるエージェントのスループット測定を公表したが、実際の効果はハードウェア、キャッシュの再利用、並列処理の設定に左右される。
GitHub Repo

DifyコミュニティがNode.js SDKのストリーミング修正を提案、置換イベント後も元の文章が残る可能性

10月15日のDifyへの報告によると、Node.js SDKのtoText()はワークフローのテキストを読み落とす可能性があり、コンテンツ審査による置換メッセージを元の文章の後ろに連結することがあります。修正案には回帰テストが含まれていますが、まだマージされておらず、正式リリースの時期は未確認です。
GitHub Repo

Ollamaコミュニティ、ROCmのグラフ初期化時にメモリを使い果たすと報告　一部をCPUにオフロードしてもクラッシュする可能性

10月15日のOllamaコミュニティへの報告によると、AMD GPUでGemma 4モデルの一部をCPUにオフロードして実行しても、グラフ初期化中にメモリ不足が起きる可能性がある。報告者はグラフ実行を無効にして一時的にクラッシュを回避したが、保守担当者は原因を確認しておらず、正式な修正もまだない。
GitHub Repo

Hermes Agent v0.22.2、誤ったビルドを修正し、ローカル推論とゲートウェイ再起動を強化

Hermes Agent は10月15日に v0.22.2 をリリースし、未公開のゲートウェイコードが誤って含まれていたビルドの問題を修正しました。新バージョンでは、ローカルモデルの長いプロンプトが誤ってタイムアウトと判定される問題や、再起動後にゲートウェイを起動できない問題にも対処しています。ただし、前バージョンで作成された一部のセッションには、引き続き削除の制限があります。
GitHub Repo

Ollamaのプレリリース版、MLXカスタムカーネルをCUDAに移植　Nemotronの限定テストでプロンプト処理スループットが倍増

Ollamaは10月14日、v0.40.5-rc0を公開し、3種類のMLXカスタムカーネルのCUDA移植を追加した。従来は計算グラフ演算にフォールバックしていた処理を置き換える。作者はRTX 6000 Adaで2つのNemotronモデルを測定し、プロンプト処理スループットが2倍以上になったと報告したが、異なるハードウェアや包括的なワークロードでの検証はまだ行われていない。
GitHub Repo

PyTorchコミュニティがNCCL2メモリプールの修正を提案、後続の割り当てで対称通信カーネルが選ばれない可能性

10月13日のPyTorchへの報告によると、NCCL2バックエンドでは対称メモリプールに追加された領域が登録されず、集合通信がringカーネルにフォールバックする可能性がある。修正案にはデュアルGB200でのテストとカーネル経路の比較が含まれるが、まだマージされておらず、エンドツーエンドの性能データも示されていない。