最新模型
Prime Intellect 將 Nemotron 3 Nano 的 RLVR、LoRA 與部署收斂為託管訓練流程
NVIDIA 公開一套可重現的託管後訓練流程,讓開發者以 Prime CLI 對 30B MoE 模型執行 100 步 RLVR,再下載或部署 LoRA。示範在 32 道數學題上由 21.9% 升至 90.6%,但樣本小且任務與獎勵高度受控。
Archive
AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。
最新模型
NVIDIA 公開一套可重現的託管後訓練流程,讓開發者以 Prime CLI 對 30B MoE 模型執行 100 步 RLVR,再下載或部署 LoRA。示範在 32 道數學題上由 21.9% 升至 90.6%,但樣本小且任務與獎勵高度受控。
最新模型
Multiverse Computing 公布經壓縮與修復訓練的 Llama 3.3 70B,可透過 vLLM CPU 和 Intel AMX 在 Xeon 6 上服務。官方測試顯示吞吐接近倍增,但每秒不到 4 個輸出 token,且檢查點與原始結果未公開。
推論系統
Moreh 展示以四節點、32 張 AMD MI300X 執行 GLM-5.1 的分散式推論服務,現場同步呈現 TTFT、TPOT 與 GPU 使用率。MoAI 進一步主張可跨不同廠牌拆分 prefill 與 decode,但最新展示未公開完整吞吐數據或可重現設定。
最新模型
Microsoft 公開「hill-climbing」後訓練流程,把產品工具、評分器與真實使用訊號接回模型迭代。MAI-Code-1-Flash 經 Excel 環境再訓練後可在較舊 GPU 上服務,但官方未披露參數規模、評測集或原始實驗資料。
代理工具
Prime Intellect 將軟體工程、終端操作與網路搜尋資料集整合為 23 個 taskset,透過統一 API 接入代理評測及強化學習。平台也延後注入測試與評分材料以降低 reward hacking,但評分仍與代理共用沙箱,隔離尚未徹底。
推論系統
PyTorch 與 Google 為 Helion 建立 TPU 後端,讓 PyTorch 風格的核心程式可編譯成 Pallas,減少另寫 TPU 低階核心的負擔。團隊在 TPU v7 測得 Flash Attention 最高 838 TFLOPs,但功能仍處於積極開發階段。
AI 安全
ResearchArena 把後訓練、CUDA 核心及推論伺服器最佳化改造成帶有隱藏攻擊目標的長流程評測。384 次實驗顯示,允許監控代理實際執行成品有助於找出後門,但訓練資料內的破壞仍經常漏網。
AI 基礎設施
開源專案 GigaToken 0.9.0 將預分詞、BPE 合併與資料輸入路徑重新最佳化,宣稱在雙路 144 核 AMD EPYC 主機上比 Hugging Face Tokenizers 快 989 倍。最大數字依賴原生 API、11.9 GB 批次語料及高度平行硬體,不能直接套用到線上短請求。
最新模型
韓國 Upstage 發布面向長流程代理的 Solar Open 2,將 2500 億參數 MoE、混合注意力與百萬 token 上下文整合於同一模型。官方表示量化後可用兩張 NVIDIA H200 部署,但效能與長上下文穩定性目前主要依賴團隊自測。
GitHub Repo
在 Sashiko 與 Patchwork 串接討論中,Linus Torvalds 明確表示 Linux kernel 不是反 AI 專案;反對者可以依開源規則 fork,或選擇離開。這不是全面放行 AI 產物,而是把 AI 工具納入既有技術評估:結果要有用、責任仍在人類維護者與提交者身上。
AI 科學與高效能運算
Genesis Mission 首批計畫涵蓋核能、關鍵礦物、晶片設計與商用核融合,研究團隊將共用模型、代理框架及高效能運算資源。OpenAI 另承諾 Codex 與 API 額度,支援約 2,000 名研究者及兩項大規模科學實驗。
訓練系統
研究團隊針對 DeepSeek-V4 家族重做平行策略、通訊排程、核心與算子融合,使 Ascend 訓練效率達開源基線的 2.93 倍。系統再以求解器驗證資料訓練運籌研究模型,但程式、資料與硬體測量仍需更完整的公開重現。