返回首頁

最新模型

騰訊公開 Hy-Memory 記憶寫入模型,以歸因強化學習訓練跨框架資訊保留

騰訊混元於 10 月 16 日公布 Hy-Memory 2.0,並公開 30B、約 3B 啟用參數的記憶寫入模型。官方測試顯示模型可跨記憶框架運作,但結果採固定 20% 測試子集,仍待完整評測與獨立重現。

mem0 · CC BY 2.0 · Image source
zh-Hant

騰訊混元於 10 月 16 日公布 Hy-Memory 2.0,涵蓋模型、記憶框架與應用三層開源資源。其中,Hy-Memory-30B-A3B 專門負責外部記憶系統的寫入流程:從互動紀錄挑選值得保留的資訊,形成可持續更新的記憶。模型權重以 Apache 2.0 授權公開,總參數約 300 億,啟用參數約 30 億。官方發布頁、模型卡

這項工作的技術焦點,是把「如何寫記憶」變成可訓練的能力。研究團隊先以 Memory On-Policy Distillation,讓模型在自己產生的記憶狀態上學習各框架的寫入協定;再以歸因記憶強化學習,利用逐區塊探測、跨區塊獎勵歸因與過度儲存控制,優化保留下來的資訊能否支持後續回答。訓練也會把模型寫出的記憶庫帶入下一個視窗,使狀態演進更接近部署流程。技術論文

官方評測固定檢索設定、回答模型與評審,只更換記憶寫入模型,並讓各模型從空白記憶庫開始。測試涵蓋 Mem0、MemOS、Hy-Memory,以及未參與訓練的 EverMemOS;四套框架、六項指標等權平均後,Hy-Memory 得分為 55.49,Claude Opus 5 為 54.62。不過,主表僅使用固定 20% 測試子集,平均領先也不代表每個子任務都較好:例如 Mem0 的 LoCoMo 與程式碼記憶測試,Opus 5 仍較高。評測方法與分項結果

對代理系統開發者而言,這提供了獨立替換記憶寫入模型的實驗入口,可觀察資訊保留策略如何影響長期任務。模型卡提供經 vLLM 0.31.0 測試的部署方式與 OpenAI 相容 API 範例。接下來應驗證完整測試集、繁體中文長對話及資訊更正情境,並同步量測寫入延遲、記憶庫大小與服務成本;目前公開分數尚不足以證明實際部署更省資源。部署說明

來源

  1. Hy-Memory 2.0:模型、框架、應用三層全開源
  2. Hy-Memory-30B-A3B 模型卡
  3. Hy-Memory-30B-A3B: Attributed Reinforcement Learning for Long-Term Memory Writing