返回首頁

GitHub Repo

Hermes Agent 社群回報 Vertex 串流解析缺口,Gemini 思考摘要可能混入正式回覆

11 月 1 日的 Hermes Agent 社群回報指出,透過 Vertex 相容介面使用 Gemini 時,思考摘要可能被當成正式答案顯示並儲存。作者提供串流片段與重現條件,但截至查核時尚未見維護者確認或修補合併。

Gerald L. Nino · Public domain · Image source
zh-Hant

Hermes Agent 於 11 月 1 日收到一項串流整合缺陷回報:使用 provider: vertex、Chat Completions 模式並開啟 Gemini 思考功能時,思考摘要可能出現在使用者收到的正式回覆中。作者表示,Telegram 曾顯示整理行程、規劃回答等摘要文字,且資料庫也把這些文字存入一般內容欄位,推理欄位則為空值。社群回報

作者將問題指向供應商擴充欄位的解析:部分串流片段把摘要放在 delta.content,另外以 extra_content.google.thought: true 標示用途;Hermes 的累加與傳送路徑據稱未檢查這個標記,因此將文字併入答案。回報附上直接呼叫 Vertex 的請求條件及回傳片段,測試模型為 Gemini 3.8 Flash,所用 Hermes 程式碼固定於提交 818c13b。問題細節與重現條件

Google 官方相容介面文件明確區分兩種資訊:布林值 thought 用來標示思考內容,thought_signature 則是驗證思考資訊的簽章;前者也優先於文字形式的思考標籤。這支持整合層必須辨識內容用途的判斷,但文件本身不能證明 Hermes 的所有版本都存在同一缺陷。Google 介面文件

Hermes 官方文件則說明,系統會自動將推理強度設定映射至 Vertex 的 extra_body.google.thinking_config。從工程角度看,這起回報凸顯相容介面的維護成本:請求格式能共用,回傳內容仍可能依供應商攜帶不同語意。若累加器先把摘要與答案合併,後續介面顯示、歷史紀錄及內容匯出便可能失去區分依據;這是依欄位行為作出的技術推論。Hermes Vertex 指南

目前證據仍以單一作者的觀察為主,議題保持開啟,未見正式修補。後續應觀察修正是否同時涵蓋串流、非串流與資料庫寫入,以及是否加入保留摘要分類的回歸測試。此處涉及的是服務回傳的思考摘要,現有證據不足以推論模型完整內部推理遭到揭露。

來源

  1. Vertex (OpenAI-compat): Gemini thought summaries leak into the reply
  2. Using OpenAI libraries with Gemini Enterprise Agent Platform
  3. Google Vertex AI | Hermes Agent