GitHub Repo
TransformersコミュニティがQwen4-Expの注意機構の異常を報告、左パディングのバッチでNaNが発生する可能性
10月23日のTransformersコミュニティからの報告によると、Qwen4-Expでeager注意機構を使って左パディングのバッチを処理すると、有効トークンの出力にNaNが現れる可能性があります。小規模なCPUテストではSDPA経路で同じ問題は見られませんでしたが、実際の重みとGPUへの影響は未検証です。
Archive
AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。
GitHub Repo
10月23日のTransformersコミュニティからの報告によると、Qwen4-Expでeager注意機構を使って左パディングのバッチを処理すると、有効トークンの出力にNaNが現れる可能性があります。小規模なCPUテストではSDPA経路で同じ問題は見られませんでしたが、実際の重みとGPUへの影響は未検証です。
GitHub Repo
Difyは10月23日に1.18.0をリリースし、Agentがタスク完了時にワークフローの分岐を直接選択できるようにしたほか、ネストしたワークフローのトレース機能を拡張した。新バージョンではAgent実行プロトコルも変更されており、バックエンドとランタイムを同時にアップグレードする必要がある。旧バージョンでは、新バージョンで保存されたセッションスナップショットを読み込めない。
GitHub Repo
10月22日のOllamaコミュニティからの報告によると、特定のAMD RADV構成では、プロンプトキャッシュを有効にした状態で同じリクエストを2回目に送ると、生成速度が大幅に低下する。協力者は別のAMD GPUでは再現できておらず、根本原因と影響範囲は引き続き調査中だ。
GitHub Repo
Langflowは10月21日に1.12.7をリリースし、OpenSearch接続URLの検証と、S3の元ファイルへのアクセス制限を正式版に取り込みました。ベクトル検索とデータアップロードの経路に関わる修正のため、デプロイ担当チームは内部ネットワークの許可リストとローカルファイルの権限を確認する必要があります。
GitHub Repo
AMDとIntelは10月20日、oneDNNを通じてPyTorchのx86 CPU最適化を統合すると発表した。AMDはZenDNNの技術も統合する。今回の発表ではリリース時期や性能データは示されておらず、エンジニアは実際のパッケージにどのカーネルが含まれるかを確認する必要がある。
GitHub Repo
Ollamaは10月21日、MLXを通じたRecursive Flintのローカル推論に対応するv0.40.8-rc0を公開しました。このオープンウェイトモデルは疎なエキスパート構成を採用していますが、最初のリリース候補版はmacOSのみをサポートし、他のGPUプラットフォームへの対応は後続バージョンで予定されています。
GitHub Repo
Transformersのメンテナーは10月20日、FP8やMXFP4などの形式と混合精度ロードを統合する共通ブロック量子化アーキテクチャを提案しました。MXFP4の案では量子化カーネルのハードウェア要件も引き上げられ、A100、T4、CPUでの実行方法が変わる可能性があります。現時点では未マージです。
GitHub Repo
10月20日のDifyコミュニティ報告によると、ナレッジベースのデータセットを削除すると、クリーンアップ処理によって別のデータセットが使用中の添付ファイルまで削除される可能性があります。修正案にはデータセットをまたぐ参照チェックが追加されていますが、まだマージされておらず、正式版およびクラウドサービスへの影響範囲は未確認です。
GitHub Repo
10月19日のLangChainコミュニティ報告によると、組み込みミドルウェア2種の並び順によって、完了したモデル呼び出しがカウントされず、会話単位の累積上限が機能しなくなる可能性がある。別のコントリビューターは再現を確認し、修正案を準備していると述べたが、メンテナーによる確認や正式な修正版はまだない。
GitHub Repo
10月19日のDifyコミュニティの報告によると、インデックス書き込み中にドキュメントを削除すると、孤立項目が残り、検索結果が設定件数を下回る可能性があります。修正案にはテストが追加されていますが、まだマージされておらず、既存の残留データも削除されません。
GitHub Repo
Hugging Face 於 10 月 19 日發布 Transformers 5.20.2,修復生成流程搬移輸入時遺失容器型別、影響多模態模型的問題。新版也正式納入特定專家平行配置的 BF16 梯度修補,為先前社群回報提供可部署版本。
GitHub Repo
10月16日のDifyコミュニティの報告によると、組み込みメタデータの書き込み形式が統一されておらず、時間フィルターの失敗やソースフィルターによる文書の取りこぼしにつながる可能性がある。修正案は提出済みだが、まだマージされておらず、既存データの移行も含まれていない。