返回首頁

AI 安全與產品工程

Google Earth 上線影像生成一天即撤回,SynthID 未能阻止假衛星圖外流

Google 將 Nano Banana 2 接入真實地理影像後,使用者迅速生成爆炸、空襲等虛構場景截圖,公司翌日撤回功能。生成結果雖有浮水印且不會寫入共享地圖,但事件顯示來源標記無法替代輸入限制與介面隔離。

EEIM · Public domain · Image source
zh-Hant

Google 7 月 30 日在 Google Earth 網頁版加入「Create image」,讓使用者以目前視角的衛星、航空或 3D 影像作為場景,再由 Nano Banana 2 生成歷史重建、建築規劃或未來城市等圖像。功能全球上線後不到一天,社群與媒體便展示虛構空襲、建築爆炸及邊境人群等畫面;Google 隨即回滾功能,表示要加入更強的防護措施。

這並非生成內容直接污染 Google Earth 的共享底圖。Google 說結果只供建立者查看,不會出現在其他人的主要 Earth 體驗,並帶有 AI 浮水印。問題在於產品把可信地理底圖、精確地點與寫實生成器放進同一個工作流程,使用者只需截圖便能把生成結果搬離原介面。原始 UI、互動狀態及機器可讀來源資訊在二次分享時可能消失,SynthID 也要求接收者主動使用 Gemini 或 Lens 查驗,無法在社群時間軸上自動阻止誤認。

更值得工程團隊注意的是防護不一致。《大西洋月刊》的測試指出,部分暴力場景在一般 Nano Banana 編輯流程會遭拒絕,換到 Google Earth 的位置導向介面卻能生成。這暗示安全分類器、提示改寫或上下文政策未在產品整合後保持同一邊界;模型本身通過的測試,不能代表所有採用它的介面同樣安全。

後續修復若只擴充關鍵字封鎖,仍可能被委婉描述繞過。較完整的設計應把危機地點和即時事件風險、生成前後分類、明顯且不可裁切的視覺標籤、匯出時的 C2PA 類來源憑證,以及截圖後仍可驗證的浮水印一起納入。Google 尚未說明重新上線時間、違規率或防護測試集,因此目前只能確認功能撤回,不能判定根本問題已解決。

來源

  1. Transform any place with Nano Banana in Google Earth
  2. Google Just Torched the Credibility of Its Satellite Images