Google因用戶濫用新推出的AI功能生成虛假衛星圖像，迅速下架該工具，凸顯AI開發面臨的信譽與監管風險。

Google在推出一項新的人工智慧功能不到一天後，即宣佈將其下架。這項實驗性工具原本旨在讓使用者透過文字提示修改任何地點的航空檢視，以便進行創意用途，如重建歷史遺址或想象未來城市景觀。然而，使用者卻迅速利用此功能製作出逼真的災難、軍事設施和衝突區域的虛假影像，引發廣泛關注。

根據《紐約時報》的報導，研究人員及記者展示了該功能如何能夠生成核電廠、淹水城市、燒毀森林和戰爭損害等真實場景的描繪，這使得虛假的衛星影像可能被誤認為是真實證據。Google表示，由於部分使用者以違反公司政策的方式分享AI生成的圖片，因此決定移除該功能，並計劃在重新啟用之前加強安全措施。

此外，Google Earth長期以來被視為事件核實的可信來源，使得現實感極高的虛假影像問題更加嚴重。儘管Google在生成的影像中嵌入數位水印，但使用者發現簡單截圖可以去除許多表明影像為AI生成的指標。這起事件突顯了生成式AI技術的進步降低了製造令人信服的錯誤資訊的門檻，傳統上需要精密編輯技能的任務如今只需短短的文字提示即可完成。

Google強調，該功能從未改變其他使用者可見的核心Google Earth地圖，並重申維護平臺信譽的重要性。在未來，科技巨頭們必須更加謹慎，以避免類似情況再次發生，並保護消費者對數位平臺的信任。

點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37

免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。

CMoney 研究員

CMoney 團隊透過 AI 結合股市，每日提供重點股票的新聞事件，期望讓投資人更有效率找到各種投資標的的投資事實。