最新模型
Salesforce Koa 以工作流程規格生成訓練環境,將 CRM 工具操作寫入 120B 模型
Salesforce 以 Nemotron 3 Super 為底座,透過合成企業情境、SFT 與 GRPO 訓練首款 CRM 推理模型 Koa。它在多輪工具使用上明顯改善,但論文承認整體表現仍落後最強前沿模型,官方「錯誤少三倍」也來自自家 CRM 評測。
Archive
AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。
最新模型
Salesforce 以 Nemotron 3 Super 為底座,透過合成企業情境、SFT 與 GRPO 訓練首款 CRM 推理模型 Koa。它在多輪工具使用上明顯改善,但論文承認整體表現仍落後最強前沿模型,官方「錯誤少三倍」也來自自家 CRM 評測。
代理工具
NVIDIA 研究團隊提出無 critic 的單 rollout 訓練法,讓長短不一的工具軌跡完成後即可進入更新。小模型實驗以一半 rollout 超越所列 GRPO 基線,但跨環境、跨規模的穩定性仍未得到充分驗證。
最新模型
Gensyn 公開 1.61B 參數模型的資料、檢查點、逐步雜湊與重播工具,讓第三方可抽查訓練狀態是否與承諾相符。這套可重現性以約五倍訓練效能代價換取,而且雜湊吻合仍不能獨自證明原始叢集確實按宣稱方式執行。
最新模型
Google 推出兩款原生語音模型,Extended Thinking 可在持續輸出音訊時進行背景推理與非同步工具呼叫。新協定提升長流程語音代理的並行能力,卻也要求開發者重寫工作階段狀態機與中斷處理。
推論系統
Portable Computer 現可在具備至少 24GB VRAM 的 Windows RTX 電腦執行模型、工具與沙箱,多數本機工作不計入雲端額度。系統仍能經使用者授權升級至雲端模型,連接器與外部操作也使其不能等同完全離線環境。
AI infrastructure
SemiAnalysis 在預發布軟體上測試 Vera Rubin NVL72,報告相較 Blackwell 最高約七倍的每兆瓦 token 吞吐量。結果凸顯 HBM4 與 NVLink 6 對長上下文、MoE 推論的作用,但 67 倍性價比標題包含租賃價格及特定操作點假設。
最新模型
上海人工智慧實驗室公開 Atria Dawn Preview、FP8 權重與推論配方,主打從搜尋、寫程式到執行實驗的完整代理迴圈。官方在 16 項基準中宣稱五項最佳,但模型規模、測試時計算與自家評測設定仍限制了可比性。
代理工具
Otis 在 9 月 13 至 14 日集中公開推廣,會依硬體推薦並下載 GGUF,再以內建 llama.cpp 啟動本地代理。離線模式不需要帳號,但搜尋、PAIR 叢集及 Fireworks 推論屬於不同的資料與信任邊界。
推論系統
9 月 14 日合併的架構支援,讓 Maple‑Preview 不再依賴 DeepGrove 的 llama.cpp 分支即可載入與轉換。模型每個 token 只啟用約 10 億參數,但 GPU 後端、品質評測與官方速度宣稱仍需分開驗證。
推論系統
新開源測試集把小模型放到 Jetson、Mac、樹莓派及 Android 裝置,量測解碼速度、每焦耳 token、延遲與溫度,而非只看資料中心 GPU 吞吐。作者宣稱已測約千組 Jetson 配置,但目前公開榜單未載入任何資料,使用者只能先從儲存庫報告與原始產物核對結果。
GitHub Repo
9 月 13 至 14 日的 llama.cpp 預發布建置補上 BF16 不可用時的 CUDA F32 路徑,避免部分舊 GPU 直接失敗。另一項修補會在 Nemotron‑H 的 NextN/MTP 中繼資料不完整時回報錯誤,而非於載入模型時觸發 SIGFPE。
推論系統
近期社群熱度上升的 Colibrì,以純 C 引擎按需載入稀疏專家,讓 744B 至 2.8T 參數模型可在非資料中心硬體啟動。它降低的是模型常駐記憶體門檻,實際解碼速度仍高度受 SSD 頻寬、專家命中率與量化品質限制。