推論系統
GPT-6.2への移行:過去の会話を書き換えるとモデルが推論をやり直す可能性
複数ターンのアシスタントやエージェントでは、プロンプトの再テストに加え、要約、ツール結果の切り詰め、指示の更新フローも確認する必要がある。公式の圧縮機能には、推論項目を保持する例外がある。
GPT-6.2 Astra、Sol に複数ターンのアシスタントやエージェントを移行する際、開発者は、モデルがすでに読み込んだ内容をアプリケーションが書き換えていないか確認する必要があります。OpenAI のドキュメントによると、GPT-6.2 以降、Responses API では、履歴の編集、一部のモデル切り替え(ダウングレードを含む)、またはエンドユーザーや組織の変更に伴う推論項目の削除によって、回答品質が低下したり、以前の作業をやり直すための token 使用量が増えたりする可能性があります。公式の開発者向けガイド
両モデルとも API 経由で利用できます。OpenAI の発表ページには、開発者向けガイドの公開日は記載されていません。Search Engine Journal は 2026 年 11 月 18 日にプロンプトに関する推奨事項と履歴編集のルールを報じましたが、これだけでは、そのルールが同日に導入されたとは判断できません。報道記事
コンテキストを節約すると、再計算のコストが生じる可能性
推論項目(reasoning items)は、モデルが以前の推論を引き継ぐために利用できるデータです。ある項目より前の会話内容は、その項目の「プレフィックス」と呼ばれます。OpenAI が挙げるプレフィックスの変更には、古いツール結果の短縮、developer メッセージの書き換え、過去のターンを要約に置き換えることが含まれます。その後の推論項目が削除され、追加の計算、コスト、遅延につながる場合があります。品質低下も起こり得ますが、変更のたびに必ず発生するわけではありません。プレフィックス管理のドキュメント
たとえば、監査エージェントが明細を読み込んだ後、アプリケーションがコンテキスト節約のために古い明細を要約に置き換えて再送するとします。ユーザーから見ればタスクは続いていますが、モデルが受け取る履歴は変わっています。これはドキュメントの内容に基づく仮定の例であり、実測された障害ではありません。移行時には、会話管理ロジックに潜むこうした処理を確認するとよいでしょう。
指示の更新と履歴の圧縮は分けて扱う
指示を更新する場合、OpenAI は新しい developer メッセージを末尾に追加することを推奨しています。大きなツール結果を切り詰める必要がある場合は、可能な限り、最初にモデルへ送信する前に行います。統合時の推奨事項
長い会話の圧縮には別の例外があります。/responses/compact または context_management を通じて OpenAI の圧縮機能を使うと、プレフィックスが変わっても、その後の推論項目は保持されます。独自に要約を作成して過去のターンを置き換える処理を、同じ動作と見なすことはできません。ドキュメントでは、キャッシュと推論の継続も明確に区別されています。プロンプトキャッシュの診断は履歴の差異を見つけるのに役立ちますが、モデルが推論を再利用したことの証明にはなりません。削除された項目とその理由を確認するには、レスポンスの input_transformations を調べてください。圧縮の例外と診断の説明
プロンプトの再テストでは、完全さとタスクの完了を確認する
プロンプトについて OpenAI は、Astra は初期設定では旧モデルより簡潔で直接的だと説明し、移行時に「短く答える」などの指示を見直すよう推奨しています。また、ユーザーの意図が明確でない場合、Astra は次のステップを提案した後、確認を待つことがあります。長いタスクでは、完了の目標と、自律的に判断してよい範囲を伝えるよう案内しています。これらは提供元による見解とプロンプトの推奨事項であり、本記事独自の測定結果ではありません。プロンプトガイド
上記のルールに基づき、本記事では受け入れテストを2つに分けることを提案します。1つ目では、同じタスクで元のプロンプトと調整後のプロンプトを比較し、回答に必要な背景情報が保たれているか、許可された作業が完了しているかを確認します。2つ目では、通常の会話継続、指示の更新、独自要約、モデルのダウングレードなどのフローを比較し、品質、token 使用量、遅延、推論項目が削除された理由を記録します。これはドキュメントをもとに整理したテスト設計であり、そのまま適用できるコスト増加率を示すものではありません。
受け入れテストの記録には、チャット画面に表示されたテキストだけでなく、実際に送信したメッセージも保存してください。これにより、結果の違いを、アプリケーションが履歴を変更した具体的な処理と照合できます。