谷歌在推出 AI 地球影像工具一天后下架该工具,因担忧深度伪造(Google Earth)
谷歌在 7 月 31 日将 Google Earth 上的一个 AI 图像生成功能移除,距该功能于 7 月 30 日上线仅一天。此举是在记者和开源调查人员的强烈反对之后做出的。该公司表示,用户正在分享看起来可能违反其政策的生成影像,这引发了人们对该工具可能用逼真的假卫星影像淹没互联网的担忧。Nano Banana 模型允许用户在 Google Earth 的网页版中缩放到任意地点,点击“create image”,并根据文本提示生成场景,但批评者警告称,该工具可能通过编造从未发生过的事件来进一步助推 misinformation(错误信息)。 Nano Banana 工具编造爆炸坑并淹没地标 科技媒体 404 Media 演示称,该工具可以在洛杉矶生成一个爆炸坑,并在谷歌位于加州 Mountain View 的园区外添加抗议者。NPR 生成了伊朗 Kharg Island 着火以及被淹没的美国国会大厦的图像——如果这些都是真的,将属于重大新闻。开源研究员 Henk van Ess 告诉 NPR,他尝试了包含“墨西哥边境的难民”和“伊朗的核电站”等提示,但都没有被拒绝。Van Ess 在
Oliver Grant·08-01 20:42
