GitHub Repo
TransformersコミュニティがGemmaのテンソル並列処理の不具合を報告、TensorとDTensorの混在で推論が中断する可能性
10月12〜13日のTransformers開発版に関する報告によると、Gemma 3および4のマルチモーダルクラスでは、テンソル並列処理時にテンソル型の不一致によって前向き計算を完了できない場合があります。最小再現コードが添付され、報告者は修正案も示していますが、正式リリースへの影響と修正の完全性は未確認です。
Archive
新模型、開放權重、多模態、語音、影像與模型架構。
GitHub Repo
10月12〜13日のTransformers開発版に関する報告によると、Gemma 3および4のマルチモーダルクラスでは、テンソル並列処理時にテンソル型の不一致によって前向き計算を完了できない場合があります。最小再現コードが添付され、報告者は修正案も示していますが、正式リリースへの影響と修正の完全性は未確認です。
GitHub Repo
Ollamaは10月12日、決定モデルの推論経路の更新をマージし、v0.40.4-rc1に取り込みました。プロンプトの組み立てとスコアリングをllama.cppに委ねます。スコア仕様とモデルメタデータの要件も変更されるため、既存のデプロイではモデルファイルの互換性を確認する必要があります。
GitHub Repo
10月11日のOllamaコミュニティ報告によると、OpenAI互換エンドポイントでは、キャッシュされた分を含むプロンプト総量を未キャッシュ部分の処理時間で割り、プロンプトスループットが過大に表示される可能性があります。事例にはストリーミング応答と再現手順が示されていますが、修正状況やバージョンをまたぐ影響は未確認です。
GitHub Repo
Ollamaは10月12日にモデル検索の最適化をマージし、v0.40.4-rc0に取り込みました。同じモデルへの後続リクエストで重複処理を減らします。メンテナーのテストでは、2種類の埋め込みモデルでウォームリクエストの遅延が41〜56%低下しましたが、実際のデプロイ環境での検証が必要です。
GitHub Repo
10月12日のTransformersコミュニティからの報告によると、非融合のRMSNormでは設定されたグループ分割が反映されず、融合学習パスとは異なる出力や勾配が生じる可能性があります。報告にはCPUとCUDAの比較、および局所的な修正の検証が含まれていますが、正式な修正やモデル品質の包括的な評価には至っていません。
GitHub Repo
On October 12, Ollama merged an MLX memory fix and included it in v0.40.4-rc0. The change addresses large buffers being retained after speculative decoding rollback. In maintainers’ comparison test with 12 tool calls, the final round held 3.52 GiB less, though results across models remain to be verified.
GitHub Repo
10月11日のOllamaコミュニティからの報告によると、Goクライアントはツール呼び出しのデコード時に大きな整数や高精度の小数を丸め、書き換えた値を会話履歴に再送する可能性がある。修正案にはストリーミングとデスクトップツールのテストが追加されたが、まだマージされておらず、数値型の変更には互換性への対応も必要だ。
GitHub Repo
10月11日のTransformers開発版での報告によると、HunYuan-VLがバッチ生成で複数の候補回答を出す際、画像特徴の展開に誤りが生じる可能性があります。最小再現例が添えられ、別の参加者も再現できたと述べていますが、正式モデルへの影響と修正は未確認です。
GitHub Repo
10月10日のDifyコミュニティからの報告によると、MCPクライアントがページネーションカーソルを追跡せず、サーバーの最初のページにあるツールしか取得できない可能性がある。修正提案には部分的な回帰テストが含まれているが、まだマージされておらず、完全なデプロイと検証の手順は未確認だ。
GitHub Repo
10月10日のDifyコミュニティからの報告によると、Snippet経由で挿入したノードで解析できない変数参照が生成され、ドキュメントの内容ではなくプレースホルダーがモデルに渡される可能性がある。修正案には回帰テストが追加されているが、まだマージされておらず、既存のワークフローも移行されない。
GitHub Repo
10月10日のTransformersコミュニティの追跡報告によると、Mamba2/Zamba2のキャッシュデコードで時間刻み幅の制限が適用されず、logitsの差異が再現された。修正案は提示されているが、正式リリースへの影響範囲、高速化カーネルでの検証、生成品質への影響は未確認だ。
GitHub Repo
10月10日のOllamaへの報告によると、rnj-1は新しいランタイム環境で読み込み時に異常終了し、APIが500を返す場合があります。翌日、協力者は原因をllama.cppの注意機構チェックの変更に結び付け、代替GGUFを提示しました。ただし、正式な修正と影響範囲の全容は未確認です。