Archive

最新模型

新模型、開放權重、多模態、語音、影像與模型架構。

Grok Voice Transcribe 2.0 降低轉錄錯誤率，預設模型切換需留意

新版維持既有轉錄價格，官方多語短句測試與獨立批次評測均顯示詞錯誤率下降。批次速度、中文格式化支援及預設模型切換仍需分別驗證。

AMD 公開 MLPerf 推論最佳化，八卡 GPT-OSS 服務吞吐量提升約 38%

AMD 透過分拆注意力核心與調整排程，提高 MI355X 上的 GPT-OSS-120B 基準吞吐量。公開權重與操作指南提供重現起點，但環境設定及模型卡仍有待釐清之處。

AutoGPT 0.8.0 改用獨立密鑰，沿用預設值的部署須遷移憑證

新版停止提供共用密鑰，並拒絕以舊公開加密密鑰啟動。既有憑證需要依程序重加密，JWT 驗證相容性與文件落差也會影響升級。

vLLM 公開 NVDEC 多卡測試，影片描述吞吐量達 CPU 解碼方案兩倍以上

vLLM 公開硬體影片解碼的多 GPU 擴充測試，改善短描述生成工作中的 CPU 瓶頸。效益仍取決於負載，部署時也須為解碼程序預留顯存。

SoL-Pi 以四項機制降低代理成本，EdgeBench 分數保留約 94%

NVIDIA 等團隊透過自動實驗優化代理框架，在兩款模型上減少約 45% 至 49% 的 token 流量。公開擴充套件保留原始證據供取回，但完整配置仍有分數與任務完成率的取捨。

Ollama 0.34.3 候選版公開模型思考選項，減少代理端硬編碼設定

新版讓模型資訊介面回傳支援的思考等級與預設值，改善客戶端自行維護設定表的問題。版本仍在預發布階段，其他中繼資料缺口與文件差異仍需核對。

ALIBI 以虛假產品敘述誤導 LLM 惡意程式分類，驗證提示仍留下誤判

研究在不改變程式執行行為的前提下，加入可被靜態分析擷取的虛假背景。結果顯示，模型即使沒有遵從惡意指令，也可能因採信不可信敘述而降低風險判定。

LangChain 1.4.2 保留人工審核前的工具提案，修正代理重試的上下文矛盾

新版將人工修改放到工具執行請求，並向模型回報實際執行內容。這能減少審核後的異常重試，但仍需逐一驗證供應商介面與工具副作用。

LocalAI 4.10 統一叢集操作與私有下載憑證，加入端到端測速

新版把節點健康、模型副本與批次生命週期操作整合進叢集儀表板，並統一私有來源驗證。新增 benchmark 可建立回歸測量，但未涵蓋首 token 延遲或高併發容量。

Claude Code 2.1.277 接入 AGENTS.md，指令共用仍受載入優先序與平台限制

新版在專案缺少 Claude 指令檔時，透過內建外掛載入 AGENTS.md，降低跨工具維護成本。私人指令檔、第三方平台與上下文恢復差異，仍需要逐環境驗證。

DeepSeek 公開 V4.1-Flash 壓縮設計，全域 KV 快取降至每 token 890 位元組

新技術報告揭示跨層快取重用、FP4 儲存與局部狀態重建，如何降低長上下文代理的部署成本。壓縮數字不代表整體顯存需求，近似重建的品質邊界也仍待驗證。

Needle 3 以單組權重提供多種深度，將本機工具模型壓至 8–29 MB

Cactus 讓同一組權重裁出二至二十層模型，支援本機工具呼叫與結構化擷取。官方比較限於微調後的狹窄任務，中文也尚未列入支援語言。