Google Earth 的 AI 功能上線不到 24 小時就被砍掉，這是怎麼回事

> Nerf Watch

2026 年 7 月 31 日，Google 發了一篇聲明，語氣客氣但意思很清楚：我們把這個功能下架了。

這個功能叫 Nano Banana 2，是 Google Earth 裡的一個 AI 圖像生成工具，讓使用者用文字 prompt 修改衛星影像。你可以打一段文字，然後看到地球上某個地方的衛星圖被 AI 重新生成。聽起來很酷，實際上也確實很酷，問題是它同時也讓你可以輕鬆生成完全不存在的「現實場景」。

研究者 Henk van Ess（數位調查媒體 Digital Digging 的成員）在工具上線後，幾乎立刻就測試了它的邊界。他生成了加墨西哥邊境附近的難民圖像、加薩醫院旁的彈坑圖像，全部都是 AI 捏造的場景，但看起來就像真實的衛星照片。然後他還進一步測試：拿這些生成的影像去騙 Hive 的 AI 偵測工具，成功了。（來源：The Verge）

這整個過程大概花了多少時間？這個功能的壽命更短 — 上線不到一天就被 Google 緊急下架。

---

這個工具為什麼存在

要理解這件事，要先退一步看 Google 現在的處境。

過去兩年，AI 軍備競賽打得非常激烈。OpenAI 的 ChatGPT、Anthropic 的 Claude、Meta 的 Llama，每一家都在快速疊代、快速發布。Google 自己有 Gemini，但坦白說在公眾認知上，Google 一直被認為是在追趕，而不是領跑。這個氛圍對一家在搜尋、地圖、Earth 這些地理資料服務上深耕幾十年的公司來說是很尷尬的。

Google Earth 本身是一個非常特殊的產品。它背後是全球最完整的地理影像資料庫之一，衛星圖更新頻率、覆蓋範圍、解析度都是業界頂尖。把 AI 生成能力接進去，邏輯上不是沒有道理 — 建築師可以想像某塊土地開發後的樣子、城市規劃師可以模擬不同的建設方案、教育用途也可以想像歷史場景重建。

Google 自己的聲明也提到這個方向：「我們看到地理空間專業人員在用這個功能做很多有用的事情」。（來源：Google 官方聲明）所以這個功能的 idea 本身不是爛的，問題出在別的地方。

但 Google Earth 有一個特殊性是很多 AI 應用沒有的：它承載的是「現實世界的真實狀態」這個信任。你打開 Google Earth 看某個地方，預設就是你在看現實。這個信任是幾十年積累下來的，它不是一個可以輕易動的東西。

把 AI 生成圖像接進這個信任體系，卻沒有設計夠強的 guardrail，就是這次問題的根源。

---

24 小時內發生了什麼

事件的時間線非常緊湊。

功能上線後，Henk van Ess 開始測試。他生成了一系列具有明顯政治敏感性的場景：難民、炸彈坑、衝突地區。這些圖像本身被 watermark 標記為 AI 生成，但問題是：截圖不帶 watermark。當這些截圖在社群媒體上流傳，沒有任何東西能告訴看的人「這是 AI 生成的，不是真實衛星圖」。

更糟的是，van Ess 測試了 Hive 的 AI 偵測工具，結果發現生成的影像可以成功繞過偵測。也就是說，就算有人懷疑是假的，去用工具查也查不出來。（來源：The Verge）

Google 的第一個回應，在功能上線當天，基本上是在護航：「圖像有 watermark，而且我們有防止生成有害內容的機制。」

然後過了一天，Google 換了一份聲明，語氣完全不同：「我們正在下架這個功能，同時研究如何實作更強的 guardrail。」

從護航到下架，中間就隔了一個晚上。

---

這不是產品問題，是流程問題

老實說，這個功能的技術本身沒有什麼特別大的問題。AI 生成圖像配上地理資料，這個 use case 是有價值的。問題是這個功能在上線之前，顯然沒有人認真問一個問題：

「如果有人把這個工具用在地緣政治敏感地區，然後截圖分享，會發生什麼事？」

這個問題不難想到。任何做過一點 threat modeling 的人都應該在上線前就問這個問題。

跟歷史事件比一下：2017 年 Facebook 的 News Feed 演算法在緬甸助長了仇恨言論傳播，事後分析都指向一件事 — 在推出的當下，沒有人認真評估非英語市場、高度極化環境下的 edge case。Google 這次的狀況和那個有點像，只是時間壓縮到極致，24 小時就讓問題全部爆出來了。

Watermark 的想法是對的，但執行上沒有考慮截圖會去掉 watermark 這件事。AI 內容過濾是有的，但沒有擋住政治敏感地理場景。這些都是上線前就能想到的，但顯然沒有。

這讓我想到電競裡的一種常見錯誤：patch 出來之前，設計師在受控環境裡測試了很多次，但沒有考慮到高端玩家在真實對戰環境裡會怎麼 exploit 這個機制。Google 的 internal testing 大概也是類似的問題 — 測試的人沒有帶著「我要怎麼用這個工具做出最有問題的東西」的心態去試。

---

Meta 判讀：這是一次昂貴的 Nerf

這件事的定性是 Nerf Watch，而且是針對 Google 自己的。

不是整個 AI 圖像生成產業被 nerf，而是 Google 在「負責任的 AI 產品發布」這個形象上，被自己打了一槍。

Google 在 AI 領域的處境本來就尷尬。Gemini 的發布過程就已經有過失誤（2023 年發布當天 demo 被發現造假，股價當天跌了約 7%，市值蒸發約 1,000 億美元），現在又來一次 AI 功能上線後緊急下架的事件。（來源：Reuters）兩件事合在一起，外界對 Google 的 AI 產品品管會有更多懷疑。

跟 OpenAI 比，OpenAI 在這方面也不是沒有出過包，但 OpenAI 的「快速迭代、快速修復」敘事是它的品牌一部分。Google 的品牌不是這樣的。Google 的品牌是可靠、有責任感、大公司的謹慎。現在這個形象有了一個缺口。

從投資者的角度看這件事：Google 的核心 AI 業務 — Cloud AI 服務、Gemini 整合、廣告 AI 最佳化 — 這次事件不會直接影響這些的收入。但如果類似的事件重複發生，市場對 Google 能否在 AI 時代維持競爭力的信心會受影響。目前 Google 市值約 2 兆美元，AI 相關業務是估值支撐的一部分，這種公關事件累積下來不是沒有成本的。

---

對工程師來說值得注意的事

如果是我，在這個案例裡最想抽出來記住的事情是：watermark 不等於防護。

工具層面的保護措施必須要考慮它在真實使用環境下的 bypass 路徑。Watermark 在原始檔案上是有效的，但截圖、二次剪輯、影片錄製都可以繞過。如果你的 safety mechanism 只在原始輸出上有效，它的防護範圍就很窄。

另一件事：threat modeling 要帶著惡意使用者的視角做，而不是帶著「一般使用者會怎麼用」的視角做。這個功能的 general use case 是好的，問題是 edge case 被一個認真測試的研究者在幾小時內找到了。你的 internal review 要能比這個更快找到問題。

大公司現在的 AI 功能發布節奏很快，但快不代表可以跳過 adversarial testing。這次 Google 的教訓，說白了就是：趕著上線的代價，有時候比晚一個月上線貴得多。