GitHub Repo
Ollama 加入 Inkling 2 Mini,本機循環架構模型首波支援 Apple silicon
Thinking Machines 於 11 月 20 日釋出 Inkling 2 Mini,Ollama 已提供模型下載及代理工具啟動方式。這款約 264 億參數模型透過重複執行共享層增加計算深度,但目前 Ollama 支援限於 Apple silicon,部署仍須預留快取記憶體。

Thinking Machines 於 11 月 20 日公開 Inkling 2 Mini 開放權重,Ollama 的 v0.40.17 發布說明已列入支援。開發者可執行 ollama run inkling-2-mini,載入接受文字與圖片輸入、支援工具呼叫的模型;該版明確限定 Apple silicon,PC 支援仍待後續版本。Ollama 發布說明、官方模型卡
技術重點是共享權重的循環計算。模型具有 24 個解碼層,中間 12 層每個 token 執行三次,形成 48 次層運算;各層再從 128 個專家選取八個。官方列出總參數 264 億、啟用參數 34 億,計入額外循環後,有效啟用參數約為 54 億。這也解釋了 Ollama 頁面的 54 億口徑,避免把儲存量與每個 token 的運算量混為一談。官方模型卡
循環架構減少需要儲存的獨立權重,卻仍須完成各次運算。Hugging Face 技術文章指出,每次層訪問各自保留 KV 與短卷積狀態,因此不能依權重大小直接推算長上下文成本。模型標示最高百萬 token 上下文,檢查點約 20GB、採 NVFP4 與 MXFP8 混合精度;官方支援配置包括至少 32GB 記憶體的 Apple silicon 裝置。工程上仍應實測輸入長度與併發增加時的記憶體峰值。架構解析、硬體需求
對代理應用而言,Ollama 模型頁已提供 Claude Code、OpenCode 與 Hermes Agent 的啟動命令,可縮短本機測試流程。發布方回報 SWE-bench Verified 為 79.2%,但這是指定工具與評測條件下的結果,不能直接代表中文程式碼維護或長任務成功率。接下來值得觀察 PC 支援、實際生成延遲,以及相同代理框架下的工具呼叫可靠性。Ollama 模型頁、評測設定