所有文章 · SURL AI News

Kimi K3 公開 2.8T MoE 權重，104B 啟用參數把自架門檻推至叢集等級

Moonshot AI 正式釋出 Kimi K3 權重與技術報告；模型具備原生視覺、百萬 token 上下文，每個 token 啟用 896 個專家中的 16 個。開放權重使官方能力宣稱終於可以重現，但逾 1TB 的低精度權重仍讓完整部署遠離一般工作站。

Laguna S 2.1 以滑動視窗、注意力閘門及 FP8 KV cache 壓低長上下文成本，主打可自行部署的代理程式設計。模型提供多種精度權重與完整評測軌跡，但百萬 token 能力、效能比較及單機可行性仍高度取決於量化格式與執行環境。

研究團隊讓代理在推理期間預測並提前執行自己的下一個工具呼叫，以共用權重及 KV cache 取代外部草稿模型。聯合強化學習把兩款 Qwen 4B 模型的平均 Hit@1 分別提升至 61.2 與 66.3，但論文尚未量化真實並行部署的端到端加速。

Shieldstral 把內容審核統一成可由自然語言指定的二元問答，讓同一模型依產品情境切換判斷標準。論文報告其文字與多模態平均 F1 分別達 84.9% 與 83.8%，但模型權重與完整推論套件尚未同步公開。

首個大規模 MCP 用戶端研究發現，官方 SDK 與檔案式設定已成主流，但阻塞式工具批准率僅 37.2%。協定統一了通訊格式，卻尚未讓權限、設定與人工監督形成一致的應用層慣例。

Surge AI 公開 65 項長流程代理任務，要求模型跨郵件、聊天、日曆與企業工具遵守20至124頁的變動政策。最佳配置在全部規則同時成立的嚴格評分下只通過36.2%，顯示長上下文容量不等於持續合規。

Amazon Science 公開 PatientAgentBench，讓醫療代理在合成病歷與具狀態工具中完成多輪基層照護任務。十款模型的最大落差出現在分流判斷，顯示答對醫學題目並不足以證明代理能安全執行工作流。

新研究把 LoRA 限制在 Transformer 的前、中、後段，發現不同學習目標呈現可重現的「適應幾何」。結果把 adapter 放置位置從實作細節提升為控制知識轉移與副作用的設計變數。

一項跨 44 款語言模型的實驗發現，僅加入「以 JSON 回答」便會降低答案多樣性，無須 schema 強制或受限解碼。結果提醒開發者，結構化輸出不只是序列化層，也可能改變模型實際選擇的答案。

GitHub Models 將於 7 月 30 日停止所有服務，既有客戶的模型目錄、Playground、推論 API 與 BYOK 端點都會消失。遷往 Microsoft Foundry 並非單純更換網址，團隊還須重新驗證身分、模型版本、計費與輸出相容性。

開源 NInfer 以客製量化、權重布局、融合核心與 MTP 草稿路徑，讓 Qwen3.6-35B-A3B 在單張 RTX 5090 上長程解碼維持約每秒 543 token。速度來自針對模型與 GPU 的深度特化，目前只支援兩個 checkpoint、缺乏連續批次，也尚無同條件獨立評測。

SpecBox 根據串流 token 推測即將使用的工具，讓沙箱啟動與模型推論重疊，並以相依圖預取後續執行環境。論文報告其 P99 端到端延遲最高改善 2.9 倍、峰值記憶體降低 45.9%，但目前仍是研究原型，尚無公開程式碼或獨立重現結果。