最新模型

新模型、開放權重、多模態、語音、影像與模型架構。

GitHub Repo

TransformersコミュニティがGemmaのテンソル並列処理の不具合を報告、TensorとDTensorの混在で推論が中断する可能性

10月12〜13日のTransformers開発版に関する報告によると、Gemma 3および4のマルチモーダルクラスでは、テンソル並列処理時にテンソル型の不一致によって前向き計算を完了できない場合があります。最小再現コードが添付され、報告者は修正案も示していますが、正式リリースへの影響と修正の完全性は未確認です。

GitHub Repo

Ollamaのプレリリース版、llama.cppネイティブの決定推論に移行 旧GGUFモデルは再ダウンロードに注意

Ollamaは10月12日、決定モデルの推論経路の更新をマージし、v0.40.4-rc1に取り込みました。プロンプトの組み立てとスコアリングをllama.cppに委ねます。スコア仕様とモデルメタデータの要件も変更されるため、既存のデプロイではモデルファイルの互換性を確認する必要があります。

GitHub Repo

Ollamaコミュニティが報告したプロンプトスループットの計算差異、キャッシュヒットで性能値が過大になる可能性

10月11日のOllamaコミュニティ報告によると、OpenAI互換エンドポイントでは、キャッシュされた分を含むプロンプト総量を未キャッシュ部分の処理時間で割り、プロンプトスループットが過大に表示される可能性があります。事例にはストリーミング応答と再現手順が示されていますが、修正状況やバージョンをまたぐ影響は未確認です。

GitHub Repo

Ollamaのプレリリース版、検証済みモデルを再利用 埋め込みのウォームリクエストで遅延が4割超低下

Ollamaは10月12日にモデル検索の最適化をマージし、v0.40.4-rc0に取り込みました。同じモデルへの後続リクエストで重複処理を減らします。メンテナーのテストでは、2種類の埋め込みモデルでウォームリクエストの遅延が41〜56%低下しましたが、実際のデプロイ環境での検証が必要です。

GitHub Repo

Transformersコミュニティ、Mamba2の正規化におけるグループ分割の欠落を報告 非融合パスが学習時の中核計算と異なる可能性

10月12日のTransformersコミュニティからの報告によると、非融合のRMSNormでは設定されたグループ分割が反映されず、融合学習パスとは異なる出力や勾配が生じる可能性があります。報告にはCPUとCUDAの比較、および局所的な修正の検証が含まれていますが、正式な修正やモデル品質の包括的な評価には至っていません。

GitHub Repo

Ollamaコミュニティがツール引数の精度修正を提案、Goクライアントが大きな整数を書き換える可能性

10月11日のOllamaコミュニティからの報告によると、Goクライアントはツール呼び出しのデコード時に大きな整数や高精度の小数を丸め、書き換えた値を会話履歴に再送する可能性がある。修正案にはストリーミングとデスクトップツールのテストが追加されたが、まだマージされておらず、数値型の変更には互換性への対応も必要だ。

GitHub Repo

TransformersコミュニティがHunYuan-VLのバッチ生成不具合を報告、複数候補の系列に誤った画像が対応する可能性

10月11日のTransformers開発版での報告によると、HunYuan-VLがバッチ生成で複数の候補回答を出す際、画像特徴の展開に誤りが生じる可能性があります。最小再現例が添えられ、別の参加者も再現できたと述べていますが、正式モデルへの影響と修正は未確認です。

GitHub Repo

DifyコミュニティがMCPのページネーション修正を提案、ツール探索で2ページ目以降が気づかれず欠落する可能性

10月10日のDifyコミュニティからの報告によると、MCPクライアントがページネーションカーソルを追跡せず、サーバーの最初のページにあるツールしか取得できない可能性がある。修正提案には部分的な回帰テストが含まれているが、まだマージされておらず、完全なデプロイと検証の手順は未確認だ。

GitHub Repo

Difyコミュニティがワークフローの修正を提案、SnippetノードIDによりドキュメント変数がそのままモデルに送られる可能性

10月10日のDifyコミュニティからの報告によると、Snippet経由で挿入したノードで解析できない変数参照が生成され、ドキュメントの内容ではなくプレースホルダーがモデルに渡される可能性がある。修正案には回帰テストが追加されているが、まだマージされておらず、既存のワークフローも移行されない。

GitHub Repo

Transformersコミュニティ、Mamba2/Zamba2のキャッシュデコード差異を調査 時間刻み幅の制限が適用されていない可能性

10月10日のTransformersコミュニティの追跡報告によると、Mamba2/Zamba2のキャッシュデコードで時間刻み幅の制限が適用されず、logitsの差異が再現された。修正案は提示されているが、正式リリースへの影響範囲、高速化カーネルでの検証、生成品質への影響は未確認だ。

GitHub Repo

Ollamaコミュニティ、rnj-1の読み込み失敗を調査 スライディングウィンドウ注意機構のメタデータがアサーションを引き起こす可能性

10月10日のOllamaへの報告によると、rnj-1は新しいランタイム環境で読み込み時に異常終了し、APIが500を返す場合があります。翌日、協力者は原因をllama.cppの注意機構チェックの変更に結び付け、代替GGUFを提示しました。ただし、正式な修正と影響範囲の全容は未確認です。