SURL AI News
繁中English日本語

Archive

最新模型

新模型、開放權重、多模態、語音、影像與模型架構。

GitHub Repo

TransformersコミュニティがQwen4-Expの注意機構の異常を報告、左パディングのバッチでNaNが発生する可能性

10月23日のTransformersコミュニティからの報告によると、Qwen4-Expでeager注意機構を使って左パディングのバッチを処理すると、有効トークンの出力にNaNが現れる可能性があります。小規模なCPUテストではSDPA経路で同じ問題は見られませんでしたが、実際の重みとGPUへの影響は未検証です。
GitHub Repo

TransformersコミュニティがDiffusionGemmaのバッチ差異を報告、同じ入力でも異なるテキストを生成する可能性

10月22日のTransformersコミュニティからの報告によると、DiffusionGemmaではバッチサイズを変えると、同じ入力でも生成テキストと停止位置が変わる可能性がある。報告者はH100での差異をエキスパートルーティングと自己条件付け計算に起因すると特定したが、メンテナーによる確認や正式な修正はまだない。
GitHub Repo

Hermes Agent 0.22.5、MCPサーバーをプラグインに移行　既存クライアントは起動パラメーターの変更が必要

Hermes Agent 0.22.5では、組み込みのMCPサーバーが公式のmcp-serveプラグインに分離された。既存の連携では、プラグインのインストールと起動コマンドの変更が必要になる。プラグインは会話のブリッジ機能を維持し、一部のツールを追加で有効にできるが、接続クライアントは会話を読み取ったり、接続済みアカウントからメッセージを送信したりできる。
GitHub Repo

Ollamaコミュニティ、Vulkanキャッシュの性能異常を報告—特定のAMD構成で同一リクエストの速度が大幅低下

10月22日のOllamaコミュニティからの報告によると、特定のAMD RADV構成では、プロンプトキャッシュを有効にした状態で同じリクエストを2回目に送ると、生成速度が大幅に低下する。協力者は別のAMD GPUでは再現できておらず、根本原因と影響範囲は引き続き調査中だ。
GitHub Repo

TransformersがEntroPack統合を提案、重み圧縮で非整数ビットレートを設定可能に

10月21日に提出されたTransformersのプルリクエストは、標準のモデル読み込みインターフェースを通じたEntroPackによる重み圧縮を提案している。パラメーターあたり平均3.5ビットなどの保存目標を設定できるが、まだマージされておらず、推論で得られる効果はデコードコストとワークロードに左右される。
GitHub Repo

TransformersコミュニティがRoPE初期化の不備を報告、一部の長文コンテキスト設定でNone値があると失敗

10月21日のTransformersコミュニティからの報告によると、一部のモデル設定でhead_dimがNoneの場合、Dynamic、YaRN、LongRoPEの経路でモデルを作成できない可能性がある。報告には小規模な再現コードと修正案が添えられているが、メンテナーによる確認や、検証可能な正式修正版はまだない。
GitHub Repo

Ollamaプレビュー版にコードエージェントモデル「Flint」を追加、初版はmacOS限定で対応

Ollamaは10月21日、MLXを通じたRecursive Flintのローカル推論に対応するv0.40.8-rc0を公開しました。このオープンウェイトモデルは疎なエキスパート構成を採用していますが、最初のリリース候補版はmacOSのみをサポートし、他のGPUプラットフォームへの対応は後続バージョンで予定されています。
GitHub Repo

LangChainコミュニティが要約検証の不備を報告、空の応答でエージェントが作業コンテキストを失う可能性

10月20日のLangChainコミュニティ報告によると、要約モデルが空のテキストを返した場合でも、ミドルウェアが元のメッセージを削除し、エージェントが気づかないままコンテキストを失う可能性がある。報告には最小再現コードと修正案が含まれるが、メンテナーによる確認や、検証可能な正式修正バージョンはまだない。
GitHub Repo

DeepSeek、推論エンジン「DeepInfer」をオープンソース化——2種類のアクセラレーターに対応、サービス層の整備はなお必要

DeepSeekは10月20日、V4.1-Flashに対応するオフライン推論エンジン「DeepInfer」と、複数のデコード最適化を公開した。コードはApache 2.0ライセンスで提供されるが、完全なデプロイにはKVキャッシュ、プリフィルとデコードの分離、負荷分散を独自に統合する必要がある。
GitHub Repo

AWSがTorchNeuronをパブリックプレビュー、TrainiumでPyTorchをネイティブ実行可能に　コンパイルは静的形状に限定

AWSは10月20日、オープンソースのTorchNeuronパブリックプレビューを公開した。Trainium2、Trainium3でPyTorchの即時実行とモデルコンパイルをサポートする。一方、ソースコードのドキュメントには動的形状、データ型、演算子の互換性に関する制約も記されており、移行時には項目ごとの検証が必要だ。