所有文章 · SURL AI News

Aleph Alpha 公開 Kolibri-1，78B MoE 模型以混合注意力支援百萬 token 上下文

Kolibri-1 以 Apache 2.0 公開權重，每個 token 啟用約 3.46B 參數，主攻德英雙語、文件處理與工具呼叫。百萬 token 視窗來自超出原生 256k 訓練長度的延伸，官方仍建議複雜任務使用較短上下文。

Ollama 0.35.0 的社群案例指出，特定 Qwen3.8 GGUF 接受低強度思考設定後，仍可能沿用模板預設的 xhigh。官方文件要求依模型中繼資料選擇支援值，模板能力與 API 控制是否一致仍待確認。

vLLM 0.30.0 的社群案例顯示，圖片請求加入 chat_template_kwargs 後，模型可能只收到文字，伺服器仍回傳成功。問題尚待上游確認，結合視覺輸入與思考模式控制的部署應驗證實際輸入。

Dify 的 MCP 整合被回報未處理 resource_link，僅回傳資源連結的工具可能產生空白觀察結果。社群已提出保留連結與中繼資料的修補，但尚未合併，正式版本影響範圍仍待確認。

一組大詞彙表重現測試顯示，vLLM V1 CPU 採樣器可能偏離模型原本的機率分布。問題涉及固定 Gumbel 亂數表，實際模型影響與正式修補仍待確認。

Clef 與 Clef-flash 將代理分類與路由轉為對指定選項直接評分，並以 Apache 2.0 公開權重。官方測試顯示延遲優勢，但任務準確率與機率校準仍須依部署資料驗證。

新版將語言生成移至 Agent API，調整模型設定、串流事件及用量資料格式。既有 PDF 輸入與圖片、影片結果不再受支援，Sonar 停用時程則仍有官方資料不一致的情況。

作者回報，整組變更讓推薦模型的 16 個分散式程序完成重播，未觸發編譯。提案仍為草稿，跨模型驗證與部署效益尚待確認。

美團新預覽模型延續百萬 token 上下文，提供圖片理解與編程代理整合。官方文件已列出推論控制方式，但視覺輸入格式與實際任務表現仍待驗證。

雙節點 H100 測試中，加入不搬移資料的 KV 連接器，特定負載的每 token 延遲增加約 87%。調查指向回覆聚合與執行緒等待，成因及修補仍待上游確認。

固定種子與零溫度的 Qwen3-8B 測試，仍因核心配置不同而出現輸出差異。相關 PyTorch 修補尚未合併，影響範圍須依版本、硬體與編譯路徑確認。

新版可輸出帶時間戳的物件軌跡，將影音感知接上代理工具流程。功能已透過 API 與 SDK 提供，部署須留意音訊設定、輸出限制與舊模型遷移。