返回首頁

AI 安全

METR 審查 Anthropic 研發加速證據,指出兩倍預警門檻仍有判讀爭議

METR 於 11 月 5 日發布外部審查,認為 Anthropic 對研發加速未達預警門檻的公開結論過於肯定。爭議涉及加速指標、反事實基準與評測飽和,部分關鍵證據仍未公開。

Unknown authorUnknown author · Public domain · Image source
zh-Hant

METR 於 11 月 5 日公布對 Anthropic 八月風險報告的審查,認為截至 7 月 15 日,AI 研發加速可能已觸及公司的兩倍預警門檻。METR 與 Anthropic 多數相關研究人員仍傾向認為當時尚未跨線,但審查指出,公開報告未充分呈現判斷中的不確定性;雙方仍同意,當時模型直接造成自動化研發災難性風險的程度偏低。METR 審查

門檻的定義攸關解讀。Anthropic 的政策衡量的是整體 AI 能力進步速度:一年取得原本基準下兩年的進展,且加速須有相當部分可合理歸因於研究或工程自動化。工程師寫程式省下一半時間,不能直接換算成能力進步速度翻倍;人力、算力與演算法效率的變化也須分開處理。Anthropic 原始報告,第 13 頁

量測差異是爭議核心。METR 根據私人版本中的數值推算,一項領先指標的中心估計約為歷史速度的 1.97 倍;採不同合理定義與期間,估計介於 1.3 至 2.8 倍。這些數字仍無法單獨證明 AI 的因果貢獻,卻顯示「低於兩倍」的敘述可能掩蓋接近門檻的情況。另一方面,Anthropic 自己也承認,最具體的任務評測已飽和,難以繼續辨識能力增長。METR 審查、原始報告

對研究團隊而言,這份審查凸顯了同時追蹤任務效率、模型能力與端到端研發成果的必要性,並須明列沒有 AI 協助時的比較基準。這是從報告推得的實務啟示。後續應關注未飽和評測與指標方法能否公開;METR 同日發布的整體評估表示,多數最具參考價值的證據遭刪節,外界目前難以獨立重建其結論。METR 整體評估

來源

  1. Review of the “Risks from automated R&D” section in Anthropic’s Risk Report (August 2026)
  2. Risk Report: August 2026
  3. Independent Assessment of AI R&D Acceleration at Anthropic in October 2026