SURL AI News
繁中English日本語

Archive

全ニュース

技術ニュース 1510 件

GitHub Repo

LangChain、ツール引数のストリーミングインターフェースを更新　受信側の増分対応を先行導入

LangChainは10月21日、Pythonのストリーム消費側でツール引数の増分受信をサポートし、チャンクごとの引数取得の挙動を変更した。送信側の改修はまだドラフト段階で、転送量の大幅な改善は実現していない。既存アプリケーションでは引数の組み立て方を確認する必要がある。
GitHub Repo

DeepSeek、推論エンジン「DeepInfer」をオープンソース化——2種類のアクセラレーターに対応、サービス層の整備はなお必要

DeepSeekは10月20日、V4.1-Flashに対応するオフライン推論エンジン「DeepInfer」と、複数のデコード最適化を公開した。コードはApache 2.0ライセンスで提供されるが、完全なデプロイにはKVキャッシュ、プリフィルとデコードの分離、負荷分散を独自に統合する必要がある。
GitHub Repo

AWSがTorchNeuronをパブリックプレビュー、TrainiumでPyTorchをネイティブ実行可能に　コンパイルは静的形状に限定

AWSは10月20日、オープンソースのTorchNeuronパブリックプレビューを公開した。Trainium2、Trainium3でPyTorchの即時実行とモデルコンパイルをサポートする。一方、ソースコードのドキュメントには動的形状、データ型、演算子の互換性に関する制約も記されており、移行時には項目ごとの検証が必要だ。
GitHub Repo

Transformersコミュニティ、RT-DETRの訓練損失の不整合を再提起　旧版ではデノイジングクエリが正例を奪う可能性

10月21日のTransformersコミュニティからの報告によると、5.14.1のRT-DETRシリーズでは、デノイジングクエリが主損失に混入し、通常クエリへの正例監督が弱まる可能性がある。関連修正は9月にメインブランチへマージ済みだが、今回の実測は独立した再現検証を待っており、利用者はインストール済みのバージョンを確認する必要がある。
GitHub Repo

Open WebUIコミュニティ、MCPの認可方式選択に不備を報告。秘密鍵を設定してもクライアント認証情報が送信されない可能性

10月21日のOpen WebUIコミュニティの報告によると、静的OAuth設定では、サーバーが公開する認証方式の並び順によってMCPツールの認可に失敗する場合がある。報告には再現手順と修正案が含まれるが、メンテナーによる確認や正式な修正版はまだない。
GitHub Repo

PyTorchコミュニティが融合SGDの初期化漏れを報告、AMPが初回ステップをスキップするとモメンタム状態が汚染される可能性

10月21日のPyTorchコミュニティからの報告によると、勾配オーバーフローで初回の更新がスキップされた場合、融合SGDに未初期化のモメンタムバッファが残り、次の有効な更新に影響する可能性があります。別の参加者はCPUで再現したと述べていますが、メンテナーによる確認や正式な修正バージョンはまだありません。
GitHub Repo

Transformers の報告：Gemma 2 の注意力ソフトキャッピングが適用されず、バックエンドの切り替えでモデル計算が変わる可能性

10月21日のTransformersへの報告によると、Gemma 2ではデフォルトのSDPAや一部のFlash Attentionカーネルを使用した場合、注意力スコアのソフトキャッピングが警告なしに適用されない可能性がある。報告には数値比較と再現コードが含まれるが、正式な修正バージョンはまだ確認されておらず、すべてのタスクで品質が変化すると推定することもできない。
GitHub Repo

Transformersが統一量子化アーキテクチャ案を提出、MXFP4への移行で旧GPUのロード動作が変わる可能性

Transformersのメンテナーは10月20日、FP8やMXFP4などの形式と混合精度ロードを統合する共通ブロック量子化アーキテクチャを提案しました。MXFP4の案では量子化カーネルのハードウェア要件も引き上げられ、A100、T4、CPUでの実行方法が変わる可能性があります。現時点では未マージです。
GitHub Repo

Difyコミュニティ、ナレッジベース間で共有される添付ファイルの誤削除を報告

10月20日のDifyコミュニティ報告によると、ナレッジベースのデータセットを削除すると、クリーンアップ処理によって別のデータセットが使用中の添付ファイルまで削除される可能性があります。修正案にはデータセットをまたぐ参照チェックが追加されていますが、まだマージされておらず、正式版およびクラウドサービスへの影響範囲は未確認です。
GitHub Repo

Hermes Agentコミュニティ、視覚履歴の欠落を報告：ゲートウェイの会話ターンをまたぐとツールが読み込んだ画像が失われる可能性

10月20日のHermes Agentコミュニティの報告によると、ゲートウェイが会話履歴を再読み込みする際、ツール経由で渡されたネイティブ画像がテキストのプレースホルダーだけになる可能性がある。これにより、モデルが先に正しく行った視覚的な判定を撤回することもあり得るが、正式な修正版はまだ確認されていない。
推論系統

llm-d、マルチテナントのトラフィック制御と安定版APIで分散推論の運用を強化する1.0を発表

llm-dは10月20日に1.0を発表し、マルチテナントのサービス品質、協調アップグレード、エージェントセッションのルーティングを推論スタックに取り込みました。安定版のv1設定APIを提供する一方、優先度ポリシーは明示的な設定が必要で、フェイルオーバー機能にも今後の開発項目が残っています。
GitHub Repo

Open WebUI、コンテキスト圧縮の制限を明確化　巨大な単一ターンの応答で会話がコンテキストウィンドウを超える可能性

10月20日のOpen WebUIの技術議論では、少数のメッセージに大量のツール出力が含まれると、しきい値を超えてもコンテキスト圧縮が実行されない場合があると指摘された。プロジェクトメンバーは、これは所定の切り分け動作だと説明し、新版で導入されたツールターン間の圧縮により問題を軽減できるものの、既存のすべての会話を直接復旧できるわけではないと述べた。