最新模型
SenseNova-U1.5 公開原生視覺統一架構報告,但完整訓練流水線仍待釋出
SenseNova-U1.5 以不依賴獨立視覺編碼器或 VAE 的 MoT 架構,同一模型處理理解、推理、生成與編輯。9 月 11 日新增的技術報告揭露訓練方法與評測,現有權重及推論程式可用,SFT、RL 與多專家蒸餾程式仍未完整公開。
Archive
推論 runtime、量化、 serving、KV cache、成本與效能。
最新模型
SenseNova-U1.5 以不依賴獨立視覺編碼器或 VAE 的 MoT 架構,同一模型處理理解、推理、生成與編輯。9 月 11 日新增的技術報告揭露訓練方法與評測,現有權重及推論程式可用,SFT、RL 與多專家蒸餾程式仍未完整公開。
推論系統
RunningHub 公開以 SGLang、步數蒸餾、SageAttention2、Cache-DiT 與 `torch.compile` 組成的 MiniMax H3 多 GPU 推論配方。官方把五秒影片延遲由 348.8 秒降至 28.7 秒,但關鍵內部加速權重尚未釋出,公開 LoRA 不能直接重現該數字。
最新模型
T1 在每個 token 記錄並重播 MoE 專家選擇,避免 rollout 與訓練端因數值差異走向不同子網路。公開權重可自行部署,但基準與競品比較仍主要來自團隊自評。
最新模型
小鵬以行為探針、跨尺度蒸餾及 LoRA,把 Qwen3-ASR-0.6B 的音訊編碼器由 18 層縮至 14 層。權重與推論程式已公開,但完整蒸餾流程及逾 28 萬小時訓練資料仍未釋出。
推論系統
新版以同一套 WebSocket 執行層服務 MiniCPM‑o 4.5、PersonaPlex 與 Nemotron VoiceChat,並加入 diffusion batching、平行化和元件卸載。它目前仍是預發行版,部分端點會靜默退回輪替式語音,不能只憑連線成功判定為全雙工。
AI research
新方法把循環網路的每次更新排列成由雜訊走向答案的連續流,使模型不必完整反向傳播所有迭代也能學習跨步狀態。推論時可增加積分步數換取更多計算,並從不同初始雜訊產生多個候選解。
最新模型
OpenAI 把能同時聆聽、說話及處理插話的 GPT‑Live‑1 開放給開發者,並允許語音前端把複雜推理與工具操作委派給其他模型。新架構減少 STT、LLM、TTS 間的脆弱交接,但後端推理、工具及通話基礎設施仍會另外計費。
AI 安全
Wiz 掃描 3,074 個公開 LiteLLM 實例,發現 294 個接受 `sk-1234` 或完全沒有驗證,其中 191 個未設定認證。新揭露的實地量測顯示,舊版 MCP 驗證繞過、可執行 Python 的 guardrail 與雲端中繼資料存取可被串成跨層攻擊路徑。
最新模型
NVIDIA 公開兩個 Nemotron 3 Ultra 數學專家權重、訓練資料與可恢復的自然語言證明管線,正式成績為 30/42 分。結果也暴露模型驗證器的共同盲點:內部評分高估兩題,且高精確率是以大量誤拒與運算成本換得。
GitHub Repo
新開源框架用預測式路由提前載入下一步專家,並以 Recover-LoRA 補償 int4 量化損失,讓 23GB checkpoint 不必整體常駐記憶體。官方在 M4 Pro 測得 14.9 至 17.7 token/秒,但目前僅支援 Apple Silicon,記憶體與品質數據也尚無獨立重現。
推論系統
Dynamo 現可將視覺編碼、LLM 預填充與解碼分配給獨立工作程序及不同等級 GPU,避免影像請求阻塞純文字流量。官方測試雖顯示首 token 與端到端延遲最高改善 5 倍、7 倍,但長輸出或大型稠密模型可能抵銷拆分收益。
推論系統
新研究把「回合已就緒」與「送入推論引擎」拆開,以 CVaR 尾部風險及動態工作量預算決定提交順序。SWE‑bench 軌跡重播中最高得到 3.5 倍 P95 加速,但結果只涵蓋固定代理軌跡、單一到達亂數種子與 A100/vLLM 環境。