Google Earth、画像生成機能を公開翌日に撤回—SynthIDでも偽衛星画像の流出を防げず

Googleは7月30日、Google Earthのウェブ版に「Create image」を追加した。ユーザーは現在の視点にある衛星画像、航空画像、または3D画像をシーンとして使用し、Nano Banana 2で歴史的景観の復元、建築計画、未来都市などの画像を生成できた。機能が世界的に公開されてから1日もたたないうちに、ソーシャルメディアや報道機関では、架空の空爆、建物の爆発、国境地帯に集まる群衆などの画像が紹介された。Googleは直ちに機能をロールバックし、より強力な安全対策を追加すると説明した。

生成コンテンツがGoogle Earthの共有ベースマップを直接汚染したわけではない。Googleによると、結果を閲覧できるのは作成者だけで、他のユーザーの主要なEarth体験には表示されず、AIウォーターマークも付与される。問題は、信頼性の高い地理ベースマップ、正確な位置情報、写実的な生成モデルが、一つのワークフローにまとめられていたことにある。ユーザーはスクリーンショットを撮るだけで、生成結果を元のインターフェースの外へ持ち出せる。再共有の際には、元のUI、インタラクション状態、機械可読な出所情報が失われる可能性がある。また、SynthIDによる検証には、受け手がGeminiまたはLensを使って能動的に確認する必要があり、ソーシャルメディアのタイムライン上で誤認を自動的に防ぐことはできない。

エンジニアリングチームがさらに注目すべきなのは、安全対策の不整合だ。『The Atlantic』のテストによると、一部の暴力的な場面は通常のNano Banana編集ワークフローでは拒否された一方、Google Earthの位置情報ベースのインターフェースでは生成できた。これは、プロダクトへの統合後に、安全性分類器、プロンプトの書き換え、またはコンテキストポリシーが同一の境界を維持できていなかった可能性を示唆する。モデル自体がテストに合格していても、それを採用するすべてのインターフェースが同じように安全だとは限らない。

今後の修正がキーワードブロックの拡充にとどまれば、婉曲的な表現で回避される可能性が残る。より包括的な設計では、危機発生地域とリアルタイムイベントのリスク、生成前後の分類、明確で切り取り不能な視覚ラベル、エクスポート時のC2PA準拠の出所証明、さらにスクリーンショット化された後も検証可能なウォーターマークを併せて採用すべきだ。Googleは再公開の時期、違反率、安全対策のテストセットをまだ明らかにしていない。そのため現時点で確認できるのは機能が撤回されたことだけで、根本的な問題が解決されたとは判断できない。