請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

Google Earth AI 生圖功能上線僅一天就下架,因可生成難民營、爆炸現場引發爭議

T客邦

更新於 08月17日03:16 • 發布於 08月03日06:57 • ycr

Google Earth 導入 AI 圖像生成功能後,因產生爭議影像引發假資訊疑慮。Google Earth 現已撤回功能,強調 AI 圖像生成須有完善防護,以確保衛星地圖影像的真實性。

Google 日前替 Google Earth 加入 AI 圖像生成功能,讓使用者能透過 Gemini 的 Nano Banana 2 模型,直接在真實衛星地圖上生成各種逼真的影像。不過,功能才於 7 月 30 日全球上線,隔天便遭 Google 緊急撤回,原因是有使用者發現,它能夠在真實地點生成難民營、爆炸現場、重大車禍等具爭議性的畫面,引發外界對假資訊與地理影像可信度的擔憂。

Google Earth 加入 Nano Banana,AI 可直接修改真實地圖

根據 Google 原先的介紹,這項功能整合 Google Earth 的衛星、空拍與 3D 地圖資料,使用者只要在網頁版 Google Earth 放大到任何地點,點擊「Create Image」,再輸入文字描述,就能生成與該地點環境高度融合的 AI 圖像。

Google Earth AI 生圖功能上線僅一天就下架,因可生成難民營、爆炸現場引發爭議

Google 原本希望這項功能能應用於教育、都市規劃與建築設計等情境,例如重現歷史遺跡昔日樣貌、製作景點資訊圖、模擬住宅興建完成後的外觀,或協助建築師、都市規劃人員展示開發提案,也能將知名地標改造成未來城市等創意概念。

研究者實測可生成難民營、爆炸現場,Google 一天內緊急撤回

然而功能上線不久後,Digital Digging 創辦人 Henk van Ess 測試實際在 Google Earth 中輸入提示發現,成功生成美墨邊境難民營、伊朗核設施、阿姆斯特丹街頭重大車禍,以及加薩遭炸毀醫院等畫面,系統並未拒絕這些請求,引發外界對於假資訊與地理影像可信度的質疑。

由於 AI 生成內容直接建立在 Google Earth 真實衛星影像之上,生成結果會保留相同的地形、光線、角度與環境細節,使畫面看起來更具真實感。外界擔憂,若相關圖片被截圖後流傳至社群平台,可能被誤認為是真實衛星照片,進一步成為假訊息或戰爭宣傳素材。

Google 當時曾回應表示,每張 AI 圖片都會加入 SynthID 數位浮水印,並可透過 Gemini 或 Google Lens 驗證,同時也設有有害內容防護機制。不過,測試者指出,多項涉及難民、爆炸、車禍等提示仍可順利生成,而當圖片經過截圖、錄影或再次轉存後,外部 AI 偵測工具往往無法辨識其為 AI 生成內容,降低了浮水印的實際效果。

Google Earth AI 生圖功能上線僅一天就下架,因可生成難民營、爆炸現場引發爭議

Google:功能只是暫停,將加入更完善的安全防護

面對外界質疑,Google 在 7 月 31 日更新官方公告,宣布暫時撤回 Google Earth 的 AI 圖像生成功能。Google 表示,Google Earth 長期以來建立了使用者對真實世界影像的信任,雖然已有地理資訊專業人士利用此功能進行有價值的工作,但公司也注意到部分生成圖片疑似違反相關政策,因此決定先下架功能,待完成更完善的安全防護機制後再重新推出。Google 同時強調,AI 生成圖片並不會直接出現在 Google Earth 的公共地圖內容中,只有使用者自行建立時才能看到,且所有生成圖片都會標示為 AI 生成。

不過,Google 發布這項聲明後,仍引來不少反彈,認為並非所有產品都需要加入 AI 圖像生成功能。有網友直言:「你對影像生成這麼著迷?我知道你這方面做得還不錯,但拜託,用點常識好嗎?」留言區的許多人都認為,這項功能不應只是暫停,而是應該徹底移除。

截至目前為止,Google 僅表示這項功能屬於「暫停(paused)」而非永久取消(cancelled),未來仍計畫在加入更完善的防護措施後重新開放使用。

資料來源:Transform any place with Nano Banana in Google Earth、How to plant a nuclear plant in Iran、Nano Banana 2 removed from Google Earth

查看原始文章

更多科技相關文章

01

輝達發布新AI安全工具 稱可阻止Hugging Face遭駭事件

路透社
02

輝達庫藏股計畫追加1500億美元 規模創紀錄

路透社
03

比爾蓋茲籲美國國會立法 稱AI業者自我監管不夠

路透社
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...