GitHub Repo
Ollamaコミュニティ、Qwen GGUFで思考レベルが反映されず、低強度設定でも既定値が使われる可能性を報告
Ollama 0.35.0のコミュニティ報告によると、特定のQwen3.8 GGUFでは低強度の思考設定を指定しても、テンプレートの既定値であるxhighが使われる可能性がある。公式ドキュメントはモデルのメタデータに基づいてサポート対象の値を選ぶよう求めている。テンプレートの機能とAPI制御が一致しているかは、引き続き確認が必要だ。
Archive
GitHub 熱門專案、開源工具、框架、runtime 與重要 release。
GitHub Repo
Ollama 0.35.0のコミュニティ報告によると、特定のQwen3.8 GGUFでは低強度の思考設定を指定しても、テンプレートの既定値であるxhighが使われる可能性がある。公式ドキュメントはモデルのメタデータに基づいてサポート対象の値を選ぶよう求めている。テンプレートの機能とAPI制御が一致しているかは、引き続き確認が必要だ。
GitHub Repo
vLLM 0.30.0でのコミュニティ報告によると、画像リクエストにchat_template_kwargsを追加すると、モデルにはテキストしか届かない可能性がある一方、サーバーは成功を返す。問題は上流で未確認であり、視覚入力と思考モード制御を組み合わせるデプロイでは、実際の入力を検証すべきだ。
GitHub Repo
Hermes Desktopの更新後、旧バージョンのDockerバックエンドが受け付けないRPCフィールドが送信され、新しい会話を作成できなくなる可能性がある。公式ドキュメントによると、両者の更新方法は異なる。この報告は、エージェントのデプロイでプロトコル互換性を確認する必要性を浮き彫りにしている。
GitHub Repo
DifyのMCP連携でresource_linkが処理されず、リソースリンクのみを返すツールでは空の観察結果が生じる可能性が報告された。リンクとメタデータを保持する修正案がコミュニティから提出されたが、まだマージされておらず、正式版への影響範囲は未確認だ。
GitHub Repo
大規模な語彙での再現テストでは、vLLM V1のCPUサンプラーがモデル本来の確率分布から逸脱する可能性が示された。問題には固定Gumbel乱数テーブルが関係しているが、実際のモデルへの影響と正式な修正はまだ確認されていない。
GitHub Repo
vLLM 0.30.0でPEFTの層ごとのrankおよびalpha設定が適用されないとの報告があり、警告なしにアダプターの効果が変わる可能性があります。コミュニティは再現コードと重み変換の比較を提示しましたが、正式な修正と影響範囲はまだ確認されていません。
GitHub Repo
新バージョンではエキスパートをGPU上に常駐させ、データルーティングによって重みを繰り返し集約するコストを削減する。公式の初期テストではスループットが約2.7倍になった。兆パラメータ構成のシステムテストは完了したが、ランダムルーティングを使用しており、実際の学習品質と安定性はまだ検証されていない。
最新模型
ClefとClef-flashは、エージェントの分類とルーティングを、指定された選択肢への直接スコアリングに置き換え、Apache 2.0ライセンスでモデルの重みを公開する。公式テストではレイテンシ面の利点が示されたが、タスク精度と確率のキャリブレーションは、デプロイ先のデータで検証する必要がある。
GitHub Repo
ツールのエクスポート権限を持つ非管理者が、読み取り専用で共有されたツールのPythonソースコードをダウンロードできる可能性がある。公式は0.11.4で修正済み。運用者はグループ権限と、コード内に認証情報が保存されていないかを確認する必要がある。
GitHub Repo
新バージョンでは言語生成をAgent APIに移し、モデル設定、ストリーミングイベント、使用量データの形式を変更。従来のPDF入力と画像・動画の結果はサポートされなくなった。Sonarの廃止時期については、公式情報に食い違いが残っている。
GitHub Repo
著者によると、一連の変更により、推薦モデルの16個の分散プロセスがコンパイルを発生させずにリプレイを完了した。提案はまだドラフトで、他のモデルでの検証やデプロイ上の効果は確認されていない。
GitHub Repo
2ノードのH100テストでは、データを移動しないKVコネクタを加えると、特定の負荷でトークンあたりの遅延が約87%増加した。調査では応答の集約とスレッドの待機が原因として指摘されたが、原因の確定と修正は上流での確認待ちだ。