GitHub Repo

GitHub 熱門專案、開源工具、框架、runtime 與重要 release。

GitHub Repo

TransformersコミュニティがQwen4-Expの注意機構の異常を報告、左パディングのバッチでNaNが発生する可能性

10月23日のTransformersコミュニティからの報告によると、Qwen4-Expでeager注意機構を使って左パディングのバッチを処理すると、有効トークンの出力にNaNが現れる可能性があります。小規模なCPUテストではSDPA経路で同じ問題は見られませんでしたが、実際の重みとGPUへの影響は未検証です。

GitHub Repo

Dify 1.18.0、エージェントによる分岐ルーティングを追加 実行プロトコルの更新には同時デプロイが必要

Difyは10月23日に1.18.0をリリースし、Agentがタスク完了時にワークフローの分岐を直接選択できるようにしたほか、ネストしたワークフローのトレース機能を拡張した。新バージョンではAgent実行プロトコルも変更されており、バックエンドとランタイムを同時にアップグレードする必要がある。旧バージョンでは、新バージョンで保存されたセッションスナップショットを読み込めない。

GitHub Repo

TransformersコミュニティがDiffusionGemmaのバッチ差異を報告、同じ入力でも異なるテキストを生成する可能性

10月22日のTransformersコミュニティからの報告によると、DiffusionGemmaではバッチサイズを変えると、同じ入力でも生成テキストと停止位置が変わる可能性がある。報告者はH100での差異をエキスパートルーティングと自己条件付け計算に起因すると特定したが、メンテナーによる確認や正式な修正はまだない。

GitHub Repo

Hermes Agent 0.22.5、MCPサーバーをプラグインに移行 既存クライアントは起動パラメーターの変更が必要

Hermes Agent 0.22.5では、組み込みのMCPサーバーが公式のmcp-serveプラグインに分離された。既存の連携では、プラグインのインストールと起動コマンドの変更が必要になる。プラグインは会話のブリッジ機能を維持し、一部のツールを追加で有効にできるが、接続クライアントは会話を読み取ったり、接続済みアカウントからメッセージを送信したりできる。

GitHub Repo

Ollamaコミュニティ、Vulkanキャッシュの性能異常を報告—特定のAMD構成で同一リクエストの速度が大幅低下

10月22日のOllamaコミュニティからの報告によると、特定のAMD RADV構成では、プロンプトキャッシュを有効にした状態で同じリクエストを2回目に送ると、生成速度が大幅に低下する。協力者は別のAMD GPUでは再現できておらず、根本原因と影響範囲は引き続き調査中だ。

GitHub Repo

TransformersコミュニティがFP8逆量子化の境界エラーを報告、一部の重みで読み込み失敗や数値のずれが発生する可能性

10月22日のTransformersコミュニティからの報告によると、FP8重みの末尾ブロックが128行に満たない場合、逆量子化に失敗したり、誤ったスケーリング値が適用されたりする可能性があります。報告にはCPUでの再現コードが含まれていますが、検証可能な正式修正版はまだありません。

GitHub Repo

Langflow 1.12.7、OpenSearchとS3のアクセスチェックを強化 既存フローでは権限設定の検証が必要

Langflowは10月21日に1.12.7をリリースし、OpenSearch接続URLの検証と、S3の元ファイルへのアクセス制限を正式版に取り込みました。ベクトル検索とデータアップロードの経路に関わる修正のため、デプロイ担当チームは内部ネットワークの許可リストとローカルファイルの権限を確認する必要があります。

GitHub Repo

llm-d 1.0、多テナント推論スケジューリングを強化し、APIを安定化、アップグレード互換性を調整

llm-dは10月20日に1.0を発表し、多テナントのトラフィック制御、エージェントのセッションルーティング、協調アップグレード機能を統合した。設定APIはv1に引き上げられた一方、旧リソースグループ、メトリクスのエイリアス、一部のフラグは削除され、既存のデプロイでは移行時の互換性確認が必要となる。

GitHub Repo

Difyコミュニティでエージェント履歴のプロンプト重複読み込みが報告、長い会話でAPIのメモリ使用量が増加する可能性

10月22日のDifyコミュニティ報告によると、エージェントが会話履歴を再構築する際、各ターンで保存された完全なプロンプトを読み込む可能性があり、データ読み込み量が二次的に増加するという。報告には再現コードとカラム削減テストが添付されているが、確認可能な正式修正版はまだない。