返回首頁

最新模型

Nous 公開 Arete-27B,以監督微調調整 Qwen 的政治議題回答

Nous Research 公開 Arete-27B 權重、訓練資料與評測集,展示以監督微調改變 Qwen3.8-27B 回答取向的方法。官方回報特定評測改善且代理能力大致持平,但結果仍受題目設計、裁判模型與解碼設定限制。

Digital Bodleian This file comes from the Bodleian Libraries, a group of research libraries in Oxford University.This tag does not indicate the copyright status of the attached work. A normal copyright tag is still required. See Commons:Li… · CC BY 4.0 · Image source
zh-Hant

Nous Research 於 11 月 6 日公布 Arete-27B,以 Qwen3.8-27B 為起點,透過監督式微調調整政治敏感議題的回答取向。此次發布包含開放權重、訓練資料與評測集,讓研究者能檢查行為改變如何發生,並自行重跑測試。發布時間報導、官方說明

訓練使用約 5,280 萬 token、64k 上下文,執行兩個 epoch、共 1,202 步;沒有加入強化學習或偏好最佳化。團隊以 Inkling 為教師模型,更新全部語言模型權重,凍結視覺編碼器,並停用多 token 預測頭。這些設定界定了實驗範圍:它主要測試文字監督能如何改變回答行為,多模態能力仍須另外驗證。模型卡

評測包含七類議題、803 道提示,每題列出來源與二至四項必要事實,由 Grok 4.7 在不知道作答模型身分的情況下評分。Nous 回報,在關閉思考、溫度為零的比較中,事實分數由五分制的 2.32 升至 2.98;被其規則判為採用中國官方敘事的回答比例,由 22% 降至 0.9%。這是團隊自訂指標下的結果,不能直接解讀為一般事實準確率或政治中立程度。評測資料

能力保留方面,官方內部 Hermes Bench 分數為 65.60%,基底模型為 65.77%;Terminal-Bench-2.1 則為 70% 與 67%。團隊提醒,其推論與測試框架設定可能不同於官方榜單,沒有把後者視為確定進步。對工程團隊而言,這提供了可重現的行為調整案例,但尚不足以證明所有能力都獲保留。官方結果

接下來應觀察獨立重現,以及中文提示、不同裁判與多模態任務下的結果。評測資料標示為英文,跨模型比較也未全部使用相同解碼設定;因此,中文產品仍需建立自己的測試集。研究價值在於公開了可檢查的訓練與評分材料,至於「偏見層很淺」的機制解釋,目前仍是 Nous 對這次實驗的推論。模型卡與限制

來源

  1. Introducing Arete-27B: Qwen3.8-27B Post-Trained To Reinforce Western Values
  2. NousResearch/Arete-27B 模型卡
  3. NousResearch/Propaganda_Eval 評測資料
  4. Nous Research Releases Arete-27B, a Qwen3.8-27B Retrained to Drop the Chinese Official Line