最新模型
Intern-S2-Preview-397B 加入數值預測分支,4B 記憶模組令生物任務均分提高 3.40 點
新技術報告把科學 PDF、時間序列、工具操作及長時代理任務納入同一訓練管線,並公開 Apache 2.0 權重。獨立的 Memory Decoder 可在凍結 397B 主幹下加入領域能力,但目前只以生物學模組示範。
Archive
新模型、開放權重、多模態、語音、影像與模型架構。
最新模型
新技術報告把科學 PDF、時間序列、工具操作及長時代理任務納入同一訓練管線,並公開 Apache 2.0 權重。獨立的 Memory Decoder 可在凍結 397B 主幹下加入領域能力,但目前只以生物學模組示範。
推論系統
TEMPO 不再只平衡 token 或啟用專家數,而是同時估算 HBM 權重載入與 GEMM tile padding。SGLang 原型在部分 Qwen3‑235B 流量提高 4%至6%吞吐,但對通訊受限的 DeepSeek‑V3 反而只留下額外成本。
代理工具
OmniScientist 讓代理直接檢視影像、訊號、影音、3D 結構及軌跡,再完成構思、實驗與論文寫作。36 個案例全部產生完整稿件,但案例數、程式公開狀態與自動評審設計仍有待釐清。
代理工具
StateBridge 用正交 Procrustes 轉換,把發送代理的末層隱藏狀態映射至接收代理的輸入嵌入空間,毋須訓練投影器。四款模型的平均成績比最強基線高 2.4 至 2.9 點,但目前只支援使用相同模型權重的代理。
推論系統
FlashDrive 同時處理視覺編碼、LLM prefill、推理 token 與軌跡去噪四個瓶頸,在 RTX PRO 6000 上把 Alpamayo 1.5‑10B 單窗口延遲由 717 降至 151 毫秒。開源實作接近即時推論,但仍經過專門微調,閉環測試規模亦只有 100 段模擬片段。
最新模型
AlayaWorld 重寫互動式世界模型的空間記憶與條件管線,讓攝影機控制、歷史畫面及生成內容使用對齊的因果 VAE 表徵。新報告在 WBench 取得最高一致性總分,但新版權重與推論程式尚未同步公開。
推論系統
GCache 不再以相鄰去噪步驟的局部相似度決定是否重算,而是搜尋對最終畫質影響最低的快取重用序列。它在 Wan2.1 維持 2.17 倍加速時大幅降低偏差,但策略搜尋需要多張 H100,實作亦尚未公開。
推論系統
vToken 在 PagedAttention 區塊之上加入 token 對實體位置的映射,將淘汰後散落的 KV 空洞重新壓實。vLLM 原型最多減少 72.3% 保留區塊,但測試仍限於單機單卡與 7B、8B 級模型。
AI 基礎設施與訓練系統
LazyTrain 在訓練前聯合決定 activation 保存、卸載及重算位置,把 PCIe 與 NVMe 傳輸塞入 GPU 計算窗口。Qwen3.6‑27B 實驗由 176.90 提高至 219.95 TFLOPS,但目前只驗證單卡與離線排程。
推論系統
新方法針對數千至一萬個合法字串預先建立 trie 狀態與 token mask,避開通用文法編譯的基數瓶頸。作者測得批次 256 時每秒處理 219 個請求,但尚未公開實作,數字也包含繞過既有 guided-decoding 路徑的整合收益。
最新模型
新研究指出,較長訓練窗口可能令模型依賴上下文,而非把知識寫入參數。750M 以下預訓練及 Qwen3 微調實驗均顯示,支持性資料增加的同時,無上下文與衝突情境的穩健性下降。
新研究發現,混合線性注意力模型的巨量啟用並非隨機散布,而會在完整注意力層前形成尖峰,並於中間的線性層維持平台。團隊公開分析程式與受控模型,但完整論文圖表所用的逐筆輸入尚未全部釋出。