GitHub Repo
TransformersコミュニティがQwen4-Expの注意機構の異常を報告、左パディングのバッチでNaNが発生する可能性
10月23日のTransformersコミュニティからの報告によると、Qwen4-Expでeager注意機構を使って左パディングのバッチを処理すると、有効トークンの出力にNaNが現れる可能性があります。小規模なCPUテストではSDPA経路で同じ問題は見られませんでしたが、実際の重みとGPUへの影響は未検証です。
Archive
GitHub 熱門專案、開源工具、框架、runtime 與重要 release。
GitHub Repo
10月23日のTransformersコミュニティからの報告によると、Qwen4-Expでeager注意機構を使って左パディングのバッチを処理すると、有効トークンの出力にNaNが現れる可能性があります。小規模なCPUテストではSDPA経路で同じ問題は見られませんでしたが、実際の重みとGPUへの影響は未検証です。
GitHub Repo
Difyは10月23日に1.18.0をリリースし、Agentがタスク完了時にワークフローの分岐を直接選択できるようにしたほか、ネストしたワークフローのトレース機能を拡張した。新バージョンではAgent実行プロトコルも変更されており、バックエンドとランタイムを同時にアップグレードする必要がある。旧バージョンでは、新バージョンで保存されたセッションスナップショットを読み込めない。
GitHub Repo
10月22日のTransformersコミュニティからの報告によると、DiffusionGemmaではバッチサイズを変えると、同じ入力でも生成テキストと停止位置が変わる可能性がある。報告者はH100での差異をエキスパートルーティングと自己条件付け計算に起因すると特定したが、メンテナーによる確認や正式な修正はまだない。
GitHub Repo
Ollamaは10月22日のアップデートでバージョン0.40.9を公開し、Phonon音声合成とOpenAI互換のストリーミングエンドポイントを追加した。初期版のパッケージにはApple Siliconが必要で、デフォルトの英語モデルと他言語版ではライセンスも異なる。
GitHub Repo
Hermes Agent 0.22.5では、組み込みのMCPサーバーが公式のmcp-serveプラグインに分離された。既存の連携では、プラグインのインストールと起動コマンドの変更が必要になる。プラグインは会話のブリッジ機能を維持し、一部のツールを追加で有効にできるが、接続クライアントは会話を読み取ったり、接続済みアカウントからメッセージを送信したりできる。
GitHub Repo
10月22日のOllamaコミュニティからの報告によると、特定のAMD RADV構成では、プロンプトキャッシュを有効にした状態で同じリクエストを2回目に送ると、生成速度が大幅に低下する。協力者は別のAMD GPUでは再現できておらず、根本原因と影響範囲は引き続き調査中だ。
GitHub Repo
10月22日のTransformersコミュニティからの報告によると、FP8重みの末尾ブロックが128行に満たない場合、逆量子化に失敗したり、誤ったスケーリング値が適用されたりする可能性があります。報告にはCPUでの再現コードが含まれていますが、検証可能な正式修正版はまだありません。
GitHub Repo
Langflowは10月21日に1.12.7をリリースし、OpenSearch接続URLの検証と、S3の元ファイルへのアクセス制限を正式版に取り込みました。ベクトル検索とデータアップロードの経路に関わる修正のため、デプロイ担当チームは内部ネットワークの許可リストとローカルファイルの権限を確認する必要があります。
最新模型
Cohereは10月21日、Rerank 5 ProとFastを発表し、再ランキング時に関連段落を抽出するContext Focus機能を追加した。開発者は段落スコアのしきい値を調整して、言語モデルに送るテキスト量を制御できる。ただし、切り出した証拠が十分かどうかは検証が必要だ。
GitHub Repo
llm-dは10月20日に1.0を発表し、多テナントのトラフィック制御、エージェントのセッションルーティング、協調アップグレード機能を統合した。設定APIはv1に引き上げられた一方、旧リソースグループ、メトリクスのエイリアス、一部のフラグは削除され、既存のデプロイでは移行時の互換性確認が必要となる。
GitHub Repo
LangChainは10月21日、検索ソースが保持されない問題を修正した langchain-perplexity 1.4.2 をリリースした。更新は同期・非同期・ストリーミングの呼び出しに対応し、ソース一覧に依存する引用インターフェースや検証フローでデータを再び取得できるようにする。
GitHub Repo
10月22日のDifyコミュニティ報告によると、エージェントが会話履歴を再構築する際、各ターンで保存された完全なプロンプトを読み込む可能性があり、データ読み込み量が二次的に増加するという。報告には再現コードとカラム削減テストが添付されているが、確認可能な正式修正版はまだない。