GitHub Repo
Transformers 提出聊天模板相容性修補,處理 5.23.0 訊息物件崩潰回報
11 月 15 日的 Transformers 回報指出,5.23.0 處理 dataclass 與 Pydantic 聊天訊息時,可能在套用模板前拋出例外。同日提出的修補涵蓋 tokenizer 與 processor,但尚未合併,測試結果目前來自提交者。

Transformers 社群於 11 月 15 日回報聊天模板的版本回歸:原本在 5.22.2 可處理的 dataclass 與 Pydantic 訊息物件,到了 5.23.0 與回報所測的 main 提交,呼叫 apply_chat_template 會出現 AttributeError。重現案例包含 OpenAI SDK 的 ChatCompletionMessage,因此將 SDK 回覆直接放回對話歷史的工具呼叫流程,可能在下一輪整理輸入時中斷。問題回報
聊天模板負責把角色、內容與模型專用控制標記組成輸入序列,是對話資料進入生成流程的重要環節。官方文件以含有 role、content 的字典列表示範;依此可知,這次需優先檢查的是混用訊息物件的整合程式,不能據此判定所有字典輸入都受影響。官方文件
回報將問題指向資料處理順序:程式先以 msg.items() 移除值為 None 的欄位,卻尚未把物件轉為字典。既有測試直接呼叫較後段的模板渲染函式,因此沒有覆蓋公開入口提前失敗的情況。這也顯示,只測底層渲染結果,可能漏掉入口處的型別相容性問題。重現與分析
同日提出的 PR #50775 建議共用訊息正規化邏輯,先轉換 Mapping、dataclass 與 Pydantic 物件,再移除空值欄位,並修正 processor 將單組物件訊息誤判為批次對話的情況。提交者列出 45 項測試與 11 項子測試通過,但頁面仍顯示等待維護者批准 CI,尚不能視為上游驗證完成。修補提案
對準備升級的工程團隊,值得加入的檢查是:讓實際使用的 SDK 回覆物件走過完整模板入口,涵蓋空值欄位與 processor 路徑。後續應追蹤修補審查、CI 結果及正式版本是否納入;目前證據支持特定輸入型別的相容性回歸,尚不足以推論模型生成品質受損。