GitHub Repo
PyTorch開発版でCUDA Graphのコピー不具合が報告、遅延コピーされたテンソルがリプレイ時に古いデータを読む可能性
10月7日のPyTorchとTorchTitanの報告によると、copy-on-writeテンソルがCUDA Graphのキャプチャ中に実体化されると、コピー操作が記録されず、リプレイ時に誤った結果が生じる可能性がある。最小再現例とMoE推論の比較結果が示されているが、正式版への影響範囲と上流での修正は未確認だ。
Archive
硬體
AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。
GitHub Repo
GitHub Repo
Transformersコミュニティが量子化キャッシュの不具合を報告、一括でのトークン追加で全精度バッファーがしきい値を超える可能性
10月7日の開発版での再現報告によると、QuantizedCacheはプレフィックスを再利用した後に複数のトークンを追加すると、設定したしきい値を超える全精度キャッシュを保持する可能性がある。重みをダウンロードせずに試せるケースが示されているが、メンテナーの確認はなく、GPUメモリーや出力品質への影響も検証されていない。
最新模型
Liquid AI、d1決定モデルの重みを公開 1回のフォワード推論でテキストと画像を分類
Liquid AIは10月7日、d1-3Bと実験的なd1-omni-600Mを公開した。モデルは回答を逐語的に生成せず、構造化された判断を直接返す。ローカル環境やJetsonへのデプロイ例がある一方、低遅延の数値はウォームアップ条件に依存し、評価結果も主にベンダーによるテストに基づく。
GitHub Repo
Ollamaコミュニティ、2モデル同時ロード時のクラッシュを報告 Qwen3-VLの画像エンコード段階でGPU割り当てエラー
10月6日のコミュニティ報告によると、別の大型モデルが2基のGPUを使用中にQwen3-VLへ画像をリクエストすると、推論プロセスが連続してクラッシュする場合がある。報告にはコアダンプのスタックトレースが添付されているが、VRAMの逼迫とヌルポインターとの因果関係は、メンテナーによる確認を待っている。
GitHub Repo
PyTorchコミュニティが係数の乗算漏れを報告、2.14のCUDAモメンタム更新で値が10倍になる可能性
10月5日のPyTorchコミュニティによる再現報告によると、特定のクリッピングとスケーリングの組み合わせで、Inductorが加算のalpha係数を落とす可能性がある。修正案は10月6日に提出されたが、まだマージされておらず、学習全体への影響は未検証だ。
GitHub Repo
Ollamaコミュニティがストリーム順序の修正を提案、テキストからツール呼び出しへの移行でResponsesクライアントが拒否する可能性
10月5日のコミュニティ報告によると、Ollamaはテキストを出力した後にツールを呼び出す際、出力インデックスを再利用し、メッセージ完了イベントを送信し損ねる可能性がある。修正案には回帰テストが含まれるが、まだマージされておらず、実際のモデル推論でも検証されていない。
GitHub Repo
Transformersコミュニティ、FSDP2のロード時メモリ不具合を報告 複数GPUの起動時に完全なモデルが重複して作られる可能性
Transformers 5.12.0を使ったコミュニティ事例では、CPUメモリを節約するロード設定を有効にしても、ほかの学習プロセスが完全なモデルを確保する可能性が示された。その結果、ホストメモリが枯渇する恐れがある。公式ドキュメントでは各プロセスによる重複ロードを避ける仕様が説明されているが、根本原因と修正状況は上流での確認を待っている。
GitHub Repo
PyTorchコミュニティがCUDA補間のショートカットに不具合を報告、出力サイズが同じ場合にリサンプリングをスキップする可能性
PyTorch開発版での再現例では、非整数の倍率でも出力サイズが入力と同じになると、CUDAの双三次補間が入力値をそのまま返す場合があります。コミュニティから修正案が提出されていますが、まだマージされておらず、正式リリースへの影響範囲は確認されていません。
GitHub Repo
vLLMコミュニティがバッチ不変性のコールドスタート不具合を報告、特定の推論経路で誤ったトークンが一貫して生成される可能性
vLLM開発版での再現例によると、バッチ不変性を有効にしても、モデル情報キャッシュやモジュールのインポート順序によって推論結果が変わる可能性がある。コミュニティから修正案が提出されたが、まだマージされておらず、正式リリースや他のハードウェアへの影響範囲は確認中だ。
GitHub Repo
OllamaコミュニティがLFM2の出力で文字抜けを報告、特定のPython文字列が黙って消える可能性
Ollama 0.35.1での再現報告によると、lfm2:24bは特定の位置にあるPython文字列を出力から落とすことがある。JSONの値や文書内容も変わり得る。原因がトークナイザーのデコード、モデルのパッケージング、ハードウェア経路のどれにあるかを判断する証拠はまだ不足しており、上流での確認が待たれる。
GitHub Repo
vLLMコミュニティ、画像入力が黙って失われると報告 リクエスト単位の思考設定が視覚理解に影響する可能性
vLLM 0.30.0でのコミュニティ報告によると、画像リクエストにchat_template_kwargsを追加すると、モデルにはテキストしか届かない可能性がある一方、サーバーは成功を返す。問題は上流で未確認であり、視覚入力と思考モード制御を組み合わせるデプロイでは、実際の入力を検証すべきだ。
GitHub Repo
Ai2、MoE学習のエキスパート配置とデータルーティングを再設計したOlmo-core 3をオープンソース化
新バージョンではエキスパートをGPU上に常駐させ、データルーティングによって重みを繰り返し集約するコストを削減する。公式の初期テストではスループットが約2.7倍になった。兆パラメータ構成のシステムテストは完了したが、ランダムルーティングを使用しており、実際の学習品質と安定性はまだ検証されていない。