谷歌（Google）為谷歌地球推出的全新AI圖像生成功能，因大量用戶利用其製造虛假災難場景，已於上線48小時內被緊急撤回。開發人員表示，正在實施更強的防護措施以應對濫用問題。
- 功能詳情：允許用戶透過文字提示轉換地點，使用名為Nano Banana 2的AI圖像生成器。
- 下架原因：大量用戶製造假災難，如摧毀著名地標、偽造敏感設施。
- 濫用案例：摧毀大金字塔與艾菲爾鐵塔、在伊朗製造假核電廠、在加沙彈坑附近製造假醫院。
- 下架時間：功能於週四推出，在48小時內被撤回。
- 官方回應：承認圖像生成違反政策，承諾實施更強的防護措施並制定更嚴格指引。
AI功能遭濫用 谷歌地球可信度受質疑
谷歌地球長期以來被視為學習與探索的可靠資訊來源，然而新推出的AI工具卻引發了嚴重的可信度危機。用戶開始利用該功能生成虛假圖像，例如摧毀埃及大金字塔、巴黎艾菲爾鐵塔等世界主要紀念碑。AI專家亨克·范埃斯（Henk Van Ess）更進一步展示了其潛在風險，他成功在伊朗製造了假的核電廠、在加沙彈坑附近生成了假醫院，甚至在美墨邊境附近創建了虛構的難民營。范埃斯對此功能的原創性及其帶來的威脅表示擔憂，指出即使圖像帶有小浮水印，當用戶看到醫院旁出現彈坑時，仍會嚴重質疑谷歌地球的真實性。
官方緊急下架 承諾加強防護措施
面對廣泛的濫用與質疑，谷歌迅速採取行動，在功能推出後48小時內便將其撤回。開發人員在停止該功能時表示：「我們正在實施更強的防護措施。」官方聲明指出，所有這些由用戶生成的虛假災難圖像均違反了公司的政策。目前，谷歌正在制定更嚴格的指導方針，並承諾相關問題很快會得到修復，以防止類似情況再次發生。
來源：deltiasgaming.com
封面來源：Adobe Stock