科學機器學習
Monroe 以 8,100 萬分子預訓練圖模型,凍結向量配合 TabPFN 勝過逐任務微調
Monroe 把稀疏圖注意力、立體化學邊與 1,152 項預訓練目標結合,再以 TabPFN 對凍結分子向量作情境內預測。它在 28 項 Polaris 任務均屬統計最佳組別,但「100% 勝率」包含與最佳方法無顯著差異的平手。

新公開的分子基礎模型 [Monroe](https://arxiv.org/abs/2608.18982) 不為每個藥物性質任務微調編碼器,而是先把分子轉成固定的 720 維向量,再把帶標籤訓練向量與待測分子一併交給 TabPFNv3。TabPFN 在一次前向傳遞中近似後驗預測分布,因此毋須逐任務梯度更新或超參數搜尋;這對標籤來自昂貴濕實驗、樣本通常偏少的 ADMET 與活性預測尤其實用。
編碼器以 GRIT 圖 Transformer 為骨幹,只在已觀察邊上計算稀疏注意力,把複雜度由全連接的 O(|V|²) 降至 O(|E|),再加入虛擬節點作全域資訊交換。由於僅使用旋轉及鏡射不變特徵會令對映異構物產生相同輸入,研究另外加入帶方向的 R/S 與 E/Z 輔助邊。訓練資料包括約 8,100 萬個 PM6 分子的量子化學性質,以及 156 萬個 PCBA 分子的生物測定標籤,共形成 1,152 個性質、分類及構形去噪目標;完整預訓練在四張 H100 上耗時 26 小時。
在 28 項 Polaris 任務中,Monroe 每項都取得最佳平均值或與最佳方法統計上無法區分,平均排名為 3.71;在 30 項 MoleculeACE 活性斷崖任務的統計勝出率為 86.7%,整體與斷崖子集 RMSE 分別為 0.629、0.737。研究採用 Tukey HSD 並以 Benjamini–Hochberg 控制多重比較,且依 InChIKey 移除與下游測試集重疊的預訓練分子。[程式與權重](https://github.com/blazejba/monroe)已公開,但 checkpoint 只輸出分子指紋,使用者仍需自行配置 TabPFN 才能得到任務預測。
這些結果尚不能解讀為藥物發現問題已解決:Polaris 部分資料存在鹽類處理、錯誤結構及立體化學歧義,活性斷崖誤差也仍明顯高於一般樣本。值得追蹤的是獨立團隊能否重現四張 H100 的訓練、在真正時間切分或新化學骨架上維持優勢,以及 TabPFN 推論成本如何隨標記支援集擴大。