模型與應用研究
LimiX‑2 以聯合機制建模處理表格資料,單一 4 億參數模型橫跨三類任務
LimiX‑2 不再只估計條件式標籤,而是從合成因果資料學習特徵與目標的聯合結構。團隊公開權重與推論程式,但模型僅限非商業使用,領先數字也主要來自作者執行的表格基準。

Stable AI 團隊在 9 月 16 日釋出 LimiX‑2 的 4 億參數檢查點與推論程式。這不是把文字模型直接套到 CSV,而是延續 Prior-Fitted Network 路線:模型先在大量合成表格上預訓練,部署時接收一組訓練樣本及待預測資料,單次前向傳播即可完成分類、迴歸或缺失值填補,不必針對每個資料集更新權重。
架構上的核心變化是 Contextual Mechanism Network。傳統表格基礎模型多以 `p(y|x,D_context)` 為目標,LimiX‑2 改學 `p(x,y|D_context)`,嘗試表示產生整張表格的共同機制。其 Context-Conditional Masked Modeling 預訓練資料由結構因果模型生成,涵蓋不同因果圖、函數關係與觀測程序;論文進一步宣稱,特徵注意力可用來恢復直接因果關係的骨架。不過,注意力與因果關係相符不等於已識別方向或可直接支援干預決策。
作者在 TabArena 報告 1935 Elo,比次名 TabFM+ 高約 117 點;TALENT 與 BCCO 的整體 Elo 分別為 1506、1432。這些比較涵蓋基礎模型、CatBoost、Random Forest 與不同設定的 AutoGluon,但結果仍由同一團隊的資料處理、超參數及彙整方法產生,尚缺獨立重跑。工程上也有明確門檻:套件要求 Python 3.12,建議搭配 PyTorch 2.9.1 與相容的 FlashAttention;Hugging Face 目前沒有代管推論供應商。
更重要的授權細節是,程式碼採加入額外條款的自訂授權,LimiX‑2 權重則使用非商業授權,不能把「公開下載」直接視為可投入商業產品。下一步值得觀察的,是第三方能否在時間切分、企業私有表格及分布偏移情境重現排名,以及模型所稱的因果骨架能力能否通過專門的因果發現評測。