SURL AI News
繁中English日本語

Archive

全ニュース

技術ニュース 1512 件

GitHub Repo

Transformersコミュニティ、ZeRO-3で読み込み処理が重複する問題を報告　各プロセスが完全なチェックポイントを読み込み、変換する可能性

10月11日のTransformers開発版に関する報告によると、ZeRO-3を有効にしても各プロセスが完全なチェックポイントを重複して読み込む可能性があり、起動時のリソース負荷が増すという。報告には2デバイスでの最小再現例と部分的な修正結果が含まれるが、正式な修正や包括的なメモリ計測はまだない。
GitHub Repo

TransformersコミュニティがT5のAttention修正を提案、テンソル配置でSDPAが低速カーネルにフォールバックする可能性

10月12日のTransformersコミュニティの報告によると、T5系列の位置バイアス・テンソルがSDPAによる融合カーネルの使用を妨げ、埋め込み処理の性能低下を招く可能性がある。修正案にはAMDとNVIDIAでのテスト結果が添えられているが、まだマージされておらず、改善幅は実際のワークロードで検証する必要がある。
GitHub Repo

Ollamaコミュニティが報告したプロンプトスループットの計算差異、キャッシュヒットで性能値が過大になる可能性

10月11日のOllamaコミュニティ報告によると、OpenAI互換エンドポイントでは、キャッシュされた分を含むプロンプト総量を未キャッシュ部分の処理時間で割り、プロンプトスループットが過大に表示される可能性があります。事例にはストリーミング応答と再現手順が示されていますが、修正状況やバージョンをまたぐ影響は未確認です。
GitHub Repo

Transformersコミュニティ、パッキング学習の境界処理の欠落を調査　線形Attentionのフォールバック経路で前の文書が混入する可能性

10月12〜13日のTransformers技術討議では、高速化カーネルがない場合、線形Attentionと畳み込みのフォールバック実装が文書境界を無視し、パッキングしたサンプルの計算結果を変える可能性が指摘された。コミュニティからは系列を分離する案とエラーを返す案が出ているが、いずれもまだマージされていない。
GitHub Repo

Difyコミュニティがエージェントのストリーミング遅延を報告、失敗分岐の有効化でタスク終了までテキスト送信が遅れる可能性

10月12日のDifyコミュニティ報告によると、Agentノードで失敗分岐を有効にすると、テキストの断片がバッファリングされ、ノードの完了時にまとめて送信される場合がある。事例にはイベントのタイムスタンプとコードパスの分析が含まれるが、メンテナーによる確認や正式な修正はまだない。
GitHub Repo

Ollamaのプレリリース版、検証済みモデルを再利用　埋め込みのウォームリクエストで遅延が4割超低下

Ollamaは10月12日にモデル検索の最適化をマージし、v0.40.4-rc0に取り込みました。同じモデルへの後続リクエストで重複処理を減らします。メンテナーのテストでは、2種類の埋め込みモデルでウォームリクエストの遅延が41〜56%低下しましたが、実際のデプロイ環境での検証が必要です。
GitHub Repo

Hermes Agentコミュニティ、リセット後のタスク通知漏れを調査　バックグラウンドプロセスの中断が既読扱いになる可能性

10月12日のHermes Agentコミュニティの報告によると、セッションのリセットでバックグラウンドプロセスが終了しても、中断の状況がユーザーに伝わらない可能性がある。別の参加者は一部の実行テストを行い、通知漏れの原因としてクリーンアップフラグを指摘したが、Telegramの全フローでの検証と正式な修正は未確認だ。
GitHub Repo

Transformersコミュニティ、Mamba2の正規化におけるグループ分割の欠落を報告　非融合パスが学習時の中核計算と異なる可能性

10月12日のTransformersコミュニティからの報告によると、非融合のRMSNormでは設定されたグループ分割が反映されず、融合学習パスとは異なる出力や勾配が生じる可能性があります。報告にはCPUとCUDAの比較、および局所的な修正の検証が含まれていますが、正式な修正やモデル品質の包括的な評価には至っていません。
GitHub Repo

Open WebUIコミュニティ、メモリー再構築が同時実行数の制限を回避し、埋め込みエンドポイントに突発的なリクエストが発生する可能性を報告

10月11日のOpen WebUIコミュニティからの報告によると、メモリーのベクトル再構築で埋め込みリクエストの同時実行数上限が無視される可能性があり、多数の429応答の記録が添えられています。翌日、別の参加者が関数レベルで再現しましたが、正式な修正やデプロイ全体での検証はまだありません。
GitHub Repo

Transformersコミュニティ、SynthIDのデバイス間でのウォーターマーク差異を報告。同じシードでも検出シグナルを再現できない可能性

10月11日のTransformersコミュニティの報告によると、CPUとApple MPSでは、同じキーとシードを使っても異なるSynthIDテキストウォーターマークのサンプリングテーブルが生成される。小規模なテストでは、デバイスをまたいでスコアを付けると、ウォーターマークなしのベースライン近くまで低下する可能性が示された。ただし、完全な検出器と新しいパッケージでの検証はまだ行われていない。
GitHub Repo

Ollamaコミュニティがツール引数の精度修正を提案、Goクライアントが大きな整数を書き換える可能性

10月11日のOllamaコミュニティからの報告によると、Goクライアントはツール呼び出しのデコード時に大きな整数や高精度の小数を丸め、書き換えた値を会話履歴に再送する可能性がある。修正案にはストリーミングとデスクトップツールのテストが追加されたが、まだマージされておらず、数値型の変更には互換性への対応も必要だ。