推論系統
遷移 GPT-6.2:改寫舊對話可能讓模型重做推理
多輪助理與代理程式除了重測提示,也要檢查摘要、工具結果裁切與指令更新流程;官方壓縮機制則有保留推理項目的例外。
把多輪助理或代理程式遷移到 GPT-6.2 Astra、Sol,開發者需要檢查應用程式是否改寫模型已讀過的內容。OpenAI 文件明載,從 GPT-6.2 起,Responses API 會在歷史內容遭編輯、某些模型切換(包括降級),或終端使用者、組織變更後移除推理項目,可能降低回答品質,並增加重做先前工作的 token 用量。官方開發指引
兩款模型均已提供 API 存取。OpenAI 發布頁 開發指引未標示發布日期;Search Engine Journal 在 2026 年 11 月 18 日報導了提示建議與歷史編輯規則,但這只能確認當時已有相關報導,不能據此判定規則當天才上線。報導原文
省下上下文,可能付出重算成本
推理項目(reasoning items)是模型可用來延續先前推理的資料;某個項目之前的對話內容,稱為它的「前綴」。OpenAI 列出的前綴修改包括縮短舊工具結果、重寫開發者訊息,以及用摘要取代早期回合。其後的推理項目可能因此被移除,造成額外運算、成本與延遲;品質下降也是可能後果,並非每次修改都必然發生。前綴管理文件
假設查帳代理先讀取一份明細,應用程式稍後為節省上下文,把舊明細換成摘要再送回:使用者眼中的任務仍在繼續,模型收到的歷史卻已改變。這是依文件構成的假設例子,並非實測故障。遷移時值得檢查的,正是這類藏在對話管理程式裡的操作。
更新指令與壓縮歷史,要分開處理
官方建議更新指令時,在尾端追加新的 developer 訊息;大型工具結果若需裁切,盡量在首次送入模型前完成。整合建議
壓縮長對話另有例外:透過 /responses/compact 或 context_management 使用 OpenAI 壓縮機制,即使前綴改變,系統仍會保留後續推理項目。自行摘要後替換舊回合,不能直接視為相同行為。文件也明確區分快取與推理延續:提示快取診斷可協助找出歷史差異,卻不能證明模型重用了推理;應查看回應中的 input_transformations,確認移除項目與原因。壓縮例外與診斷說明
提示重測要看完整度,也要看能否完成任務
提示方面,OpenAI 表示 Astra 預設比早期模型更精簡直接,建議遷移時重新檢視「簡短回答」等指令。官方也指出,使用者意圖不明時,Astra 可能提出下一步後等待確認;長任務應交代完成目標,以及哪些決定可自行作出。這些是供應商觀察與提示建議,並非本文獨立量測。提示指引
依上述規則,本文建議把驗收拆成兩組:一組用相同任務比較原提示與調整後提示,檢查答案是否保留必要背景、是否完成授權工作;另一組比較正常續接、更新指令、自行摘要與模型降級等流程,記錄品質、token 用量、延遲及推理項目移除原因。這是依文件整理的測試設計,沒有可直接套用的成本增幅。
驗收紀錄應保留實際送出的訊息,而不只保存聊天介面顯示的文字,才能把結果差異對回應用程式改動歷史的具體步驟。