超过 400 款 App 伪装成宠物照片应用,暗藏 Deepfake,苹果下架 19 款
根据《连线》(WIRED)于 11 月 2 日报道,一个涉及逾 400 个关联域名和应用的网络,以宠物写真、语言学习、AI 健身教练等日常服务为掩护,暗中提供性暴力深度伪造功能;这些应用根据用户来源、语言等信息,由服务器决定展示普通功能还是含露骨内容的隐藏界面。苹果接获 WIRED 询问后立即下架 19 款应用。 App 根据用户信息在服务器端切换界面,隐藏性暴力深度伪造功能 根据 WIRED 11 月 2 日报道,AI Forensics 首席研究员 Paul Bouchaud 对应用代码进行逆向工程,发现每次打开应用时,应用会向服务器发送用户位置、语言和唯一标识符等信息,服务器据此决定显示无害版本还是露骨版本;触发露骨版本的明显因素之一,是用户在 Facebook 或 Instagram 上点击相关广告后安装了应用。隐藏层存在于这些应用的网站上,通常只显示空白黑色屏幕,屏幕背后藏有数十个性暴力模板(含被标示为「卧室强奸」和「持刀威胁」的场景)及积分购买系统。 安全公司 Infoblox 研究员 Maël Le Touz 发现了近 500 个相互关联的域名,它们共享相同代码并相互引用
Bisc·16小时前
