GitHub Repo
Ollama 社群回報 LFM2 輸出漏字,特定 python 字串可能靜默消失
Ollama 0.35.1 的社群重現案例指出,lfm2:24b 可能漏掉特定位置的 python 字串,連帶改變 JSON 值與文件內容。問題目前仍待上游確認,尚無足夠證據判定是分詞解碼、模型封裝或硬體路徑造成。

10 月 4 日,Ollama 社群提出一項涉及 lfm2:24b 的輸出完整性回報:小寫 python 在特定位置可能消失,但帶前導空格的形式可正常顯示。回報環境為 Windows 11、Ollama 0.35.1 與 Radeon RX 9070 XT,模型完全放在 GPU 上執行;目前不能據此推定其他平台也受影響。問題回報
最小案例透過 /api/generate,用重複的 JSON 片段引導模型續寫,設定零溫度、非串流與 raw:true。回報者預期取得含有 python 的語言欄位,實際回應卻從其後的引號開始,留下空字串。官方文件說明,raw 模式會略過提示模板;因此,這個案例提供了排查模板之外處理路徑的線索,但仍未直接證明是哪一層丟失文字。API 文件
官方模型庫列出的模型識別碼 d6c816d74887 與回報一致,封裝為約 14GB 的 Q4_K_M 量化版本。這讓後續測試能鎖定相同產物,而非只比較同名模型;模型庫也將它定位為適合本地部署的混合架構模型。模型資料
技術上值得關注的是,漏字仍可能留下可解析的 JSON。依此案例推論,應用若只檢查格式,可能接受內容已改變的結果,影響語言標籤、程式碼說明或文件索引。工程師可加入固定字串與欄位值的比對,並分別測試大小寫、前導空格及標點相鄰情境;這些是驗證方向,尚不是已證實的通用修復。
截至查核時,議題仍開啟,未列出關聯修補。回報者懷疑詞彙映射或解碼流程,但頁面未提供足以確認內部 token 的證據。下一步應觀察上游能否在 CPU 與其他 GPU 重現、比較相同权重的不同執行器,並以回歸測試確認修補後的文字完整性。議題狀態