推論系統
TensorRT Model Connect 將模型 checkpoint 編成原生 C++ bundle,但介面尚未定版
NVIDIA 公開 TensorRT Model Connect,透過 Python 建置工具把支援的 Hugging Face checkpoint 封裝成可由 C++ 載入的 TensorRT bundle。專案已宣告 84 個模型家族與 221 組端到端 manifest,但仍採 nightly 開發模式,支援表不等於每款硬體均已通過驗證。
Archive
GitHub 熱門專案、開源工具、框架、runtime 與重要 release。
推論系統
NVIDIA 公開 TensorRT Model Connect,透過 Python 建置工具把支援的 Hugging Face checkpoint 封裝成可由 C++ 載入的 TensorRT bundle。專案已宣告 84 個模型家族與 221 組端到端 manifest,但仍採 nightly 開發模式,支援表不等於每款硬體均已通過驗證。
最新模型
Thomson Reuters 以 Qwen3.6-35B-A3B 為基礎,公開具 35B 總參數、每次啟用 3B 的 Thomson-1.0-Small。模型在法律、稅務與研究代理評測有所提升,但成績主要由開發團隊量測,PolyForm Strict 授權也不是一般開源授權。
AI 安全
新研究發現,無法預測的問題只要配上權威感十足的數據面板,LLM 代理便更容易作出方向性決策,即使全部數字都是捏造。以 540 筆合成案例微調可暫時修正行動閘門,但強制輸出格式會令效果失效。
機器人與具身 AI
Perceptron AI 釋出 360 億參數 Isaac 0.5 權重及 LeRobot 整合,讓同一稀疏骨幹輸出語言、空間座標與連續或離散動作。官方宣稱一般影片可大幅減少遙操作資料需求,但這是離線 action loss 的換算,且核心自監督目標仍屬專有技術。
最新模型
阿里巴巴公開 Qwen3.8-Flash-Next 權重,以 Qwen Sparse Attention、Gated Residual 與 510 億個 n-gram embedding 參數降低長上下文運算成本。模型原生支援 26.2 萬 token,但效能數字主要來自官方評測,授權亦不是常見的 Apache 2.0。
代理工具
新版可用投票、平均值或自訂函式合併多個 LLM 評分器,並保留各子評分的理由與來源。發布說明所稱的不可變評測資料集版本目前只支援 Databricks,開源追蹤後端仍未具備同等能力。
AI 安全
北航團隊不再只問文字是否由 AI 生成,而是分別判斷內容構思與表面表達的來源。系統在重建的 MixD2C 測試集領先同資料切分的 RACE 重跑,但跨資料集泛化與完整重現仍有限。
AI 安全
新研究指出,逐軌跡重設的 guardrail 無法辨識被拆散到多次迭代的攻擊證據,單純讓風險分數隨時間衰減亦可被等待繞過。LoopHarness 在作者控制的 1,000 個攻擊 episode 中保留 96.9% 乾淨任務完成率,但結果尚待獨立重現與真實系統驗證。
代理工具
GitHub 將 MCP 2026-07-28 帶入 CLI、SDK 與 IDE,並新增跨 hook 的 OpenTelemetry trace 關聯。新版同時移除舊 `/plugins` 入口,升級前須檢查外掛管理、自動更新及企業政策行為。
AI 基礎設施
AMD 發布 ROCm 10,並讓整合 Hyperloom、AMD Skills 與統一 CLI 的 ROCm.AI 正式可用。官方宣稱同硬體推論與訓練平均提升 3.3 倍及 2.4 倍,但數字涵蓋整套最佳化流程,不能視為單純升級執行環境的收益。
代理工具
新旗標把檔案工具限制在工作目錄,並略過使用者與專案設定,方便評測平台或共享主機執行代理。它仍可由啟動參數重新加入工具,也不是作業系統層級的沙箱。
推論系統
Atlas 公開 Qwen3.8-27B-NVFP4 的可重跑測試,在 DGX Spark 的 1 至 128 路併發均領先 vLLM。結果只涵蓋單一模型與短輸入、長輸出負載,尚不能推廣至一般資料中心部署。