最新模型
9B 模型以 500 美元 GRPO 學會目錄審查,單項工作流超越前沿 API
Fermi Sense 在可評分的電商目錄環境中,以兩張 GPU 和約 500 美元把 9B 開放模型訓練至 87.3% 的可達成分數。成果顯示企業規則可透過強化學習寫入小模型,但評測資料、模型權重與完整重現套件尚未公開。
Archive
AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。
最新模型
Fermi Sense 在可評分的電商目錄環境中,以兩張 GPU 和約 500 美元把 9B 開放模型訓練至 87.3% 的可達成分數。成果顯示企業規則可透過強化學習寫入小模型,但評測資料、模型權重與完整重現套件尚未公開。
GitHub Repo
NVIDIA 與三十多家組織成立 Open Secure AI Alliance,計畫共享模型、代理框架、身分、隔離及漏洞掃描技術。首波成員已列出 NOOA、SPIFFE/SPIRE、Safetensors、Lightwell 與 MDASH 等基礎元件,但聯盟尚未公布共同儲存庫、測試規格或交付時程。
代理工具
GitHub 的開源代理工作流工具新增 Google Vertex AI Workload Identity Federation,讓 Gemini 工作流不必保存長效服務帳號金鑰。新版亦擴充安全輸出檢查與 BYOK 參數,但自訂標頭及請求欄位仍可能擴大資料外洩面。
硬體
開源專案 esp32-ai 把多數參數移入記憶體映射 Flash,只讓小型 Transformer 核心留在快速記憶體,讓約 8 美元的微控制器完全離線生成文字。成果證明分層模型可下沉到韌體,但 TinyStories 等級輸出仍不能等同通用語言理解或裝置控制能力。
硬體
NVIDIA 將 Nemotron 3 Ultra 放進固定的生成、模擬、反思迴圈,在 CVDP 九類 RTL 任務取得 97.1% 平均通過率。結果同時顯示代理框架可大幅抬高各模型成績,但比較仍限於三款開放模型與單一評測流程。
代理工具
NOOA 將代理表示成單一 Python 類別,以方法、欄位、docstring 與型別標註取代分散的提示及工具 schema。官方在 SWE-bench Verified 報告 82.2% 與約一半 token 用量,但框架仍屬研究預覽,執行模型生成程式碼時必須另加沙箱。
最新模型
Moonshot AI 於 7 月 27 日釋出 Kimi K3 完整權重、模型卡與技術報告,外部團隊如今可實際部署與稽核這款三兆級稀疏模型,但至少 64 顆加速器、自訂程式碼及推理歷史相依性也形成明確門檻。
最新模型
NVIDIA 公開以少步擴散、自生成歷史蒸餾及串流 KV 快取打造的手術機器人生成式模擬器。系統已能即時接收機器人運動資料並合成下一段畫面,但視覺逼真度仍不能替代物理正確性及臨床驗證。
代理工具
FluxBench 以統一提示、工具與製程庫測試代理從 RTL 生成一路完成合成、布局繞線及 ECO,而非只評單次程式輸出。作者報告相同基礎模型搭配不同代理框架可出現 86.27% 的效能差距,但商用 EDA 實驗範圍狹窄,論文版本也曾撤回後重發。
推論系統
AMD 釋出 ROCm Hyperloom 1.0.0a1,讓代理從效能剖析一路執行核心與主機程式修改,再以正確性及速度測試決定是否保留變更。首版只支援三款 Instinct GPU,且「數週縮至數小時」仍是官方說法,導入者需要以自身模型重現。
最新模型
新基準以 3,300 道六語言平行題及 5,340 道法文題,檢查模型能否跨語言取用相同的日常與長尾知識。較大模型整體更準,卻仍無法消除流行文化、近期事件及語言切換造成的落差。
AI 研究與訓練
新研究不再替每道題固定生成相同數量的推理軌跡,而是把額外運算集中到獎勵分歧較大的樣本。作者在數學與程式任務上報告更高的 rollout 效率,但尚未公開程式碼,實際 GPU 時間與大模型擴展性仍待驗證。