GitHub Repo
Ollamaコミュニティ、ROCmのグラフ初期化時にメモリを使い果たすと報告 一部をCPUにオフロードしてもクラッシュする可能性
10月15日のOllamaコミュニティへの報告によると、AMD GPUでGemma 4モデルの一部をCPUにオフロードして実行しても、グラフ初期化中にメモリ不足が起きる可能性がある。報告者はグラフ実行を無効にして一時的にクラッシュを回避したが、保守担当者は原因を確認しておらず、正式な修正もまだない。
Archive
新模型、開放權重、多模態、語音、影像與模型架構。
GitHub Repo
10月15日のOllamaコミュニティへの報告によると、AMD GPUでGemma 4モデルの一部をCPUにオフロードして実行しても、グラフ初期化中にメモリ不足が起きる可能性がある。報告者はグラフ実行を無効にして一時的にクラッシュを回避したが、保守担当者は原因を確認しておらず、正式な修正もまだない。
GitHub Repo
A report from the Open WebUI community on October 15 says streaming replies rewrite the accumulated full text to Redis token by token, increasing transfer costs for long-running agent tasks. It includes measurements using a simulated model and reproduction steps, but an official fix release and the impact on real deployments remain unconfirmed.
GitHub Repo
10月14日に提出されたTransformers統合提案は、UltraBERTのネイティブモデルサポートを追加するものです。同日、研究チームはモデルの紹介記事を公開しました。この英語エンコーダーは、マスク率ごとに分離した言語モデル出力ヘッドを使いますが、統合はまだマージされておらず、日本語での性能も検証されていません。
GitHub Repo
10月15日に提出されたTransformersへの統合提案では、Cellpose-SAMとCellpose-DINOを追加し、流場誤差チェックを含む後処理をPyTorchで実装する。提案は審査中で、作者が述べるマスクの一致性も、すべてのデータセットやハードウェアに当てはまるとは限らない。
GitHub Repo
10月14日に提案されたTransformersのパッチは、非量子化モデルのZeRO-3チェックポイント読み込みと重み変換をrank 0に集約し、ホストメモリの負荷を軽減する。作者は2プロセスの回帰テストと大型モデルの短時間トレーニング結果を添えたが、提案はまだマージされていない。
GitHub Repo
Hermes Agent は10月15日に v0.22.2 をリリースし、未公開のゲートウェイコードが誤って含まれていたビルドの問題を修正しました。新バージョンでは、ローカルモデルの長いプロンプトが誤ってタイムアウトと判定される問題や、再起動後にゲートウェイを起動できない問題にも対処しています。ただし、前バージョンで作成された一部のセッションには、引き続き削除の制限があります。
GitHub Repo
10月13日のHermes Agentコミュニティからの報告によると、Curatorで大規模なスキルライブラリを整理する際、モデルのコンテキスト上限に近づき、応答が途中で切れても処理が完了扱いになる可能性がある。エラー状態の伝達と出力用トークンの確保を提案する2件の修正案が提出されたが、いずれも未マージ。
GitHub Repo
10月13〜14日のTransformersに関する議論で、Whisperのタイムスタンプ生成を有効にし、単一要素のEOSリストを渡すと型エラーが発生する可能性が指摘された。報告者は実際の音声を使ったテストを追加したが、修正のマージと正式リリースへの影響はまだ確認されていない。
GitHub Repo
Open WebUIは10月14日、リアルタイム音声でノイズが残留するとの報告を完了扱いにした。報告では、文字起こしが空でもモデルが聞き取れる音声が残る可能性が指摘されている。公開されているIssueには修正コミットやリリース版が記載されておらず、デプロイ担当者はサーバー側の会話履歴も確実に消去されるか検証する必要がある。
GitHub Repo
10月14日のTransformersコミュニティの報告によると、SAM 3はテキストのみのプロンプトを処理する際に幾何エンコーダーをスキップし、入力構造がMetaの参照実装と異なる可能性があります。参加者は独立した再現を報告し、修正案も提出しましたが、メンテナーはまだ確認しておらず、セグメンテーション精度への影響は未測定です。
GitHub Repo
10月13〜14日のコミュニティ報告によると、MCP Python SDKでstdio経由の大規模なツールレスポンスを受信する際、バッファの反復コピーによって遅延が大幅に増える可能性がある。参加者は最小再現コードと変更前後のテスト結果を提示したが、正式な修正はまだリリースされていない。
GitHub Repo
Ollamaは10月14日、v0.40.5-rc0を公開し、3種類のMLXカスタムカーネルのCUDA移植を追加した。従来は計算グラフ演算にフォールバックしていた処理を置き換える。作者はRTX 6000 Adaで2つのNemotronモデルを測定し、プロンプト処理スループットが2倍以上になったと報告したが、異なるハードウェアや包括的なワークロードでの検証はまだ行われていない。