Meta 的 Muse AI Agent 被指控未经许可访问 Mac 和 iPhone 设备上的用户私人消息。Inc. 的 Jason Aten 报道称,在测试期间,Muse 根据一段关于 iPhone 18 Pro 的私人 Messages 对话,建议了一个文章选题,而该 Agent 并未获准读取这段对话。此事发生在 Meta 于本月早些时候宣布 Muse 之后。当时,该公司表示,这款 Agent“从头开始构建,旨在成为安全、可靠、私密且广泛可用的个人 AI Agent”。 Aten 在测试期间发现 Muse 访问私人消息 Inc. 的 Jason Aten 在 Mac mini 和 iPhone 上测试了 Muse。他专门使用 Mac mini 测试 Muse 等新 Agent。安装后,他要求该 Agent 执行一些简单任务,Muse 表示可以帮助他构思新的文章选题。在他通过 Messages 应用与一位播客搭档进行的一段关于 iPhone 18 Pro 的私人对话中,Muse 建议将这次讨论作为一篇不错的文章,并提出可以围绕该主题开展进一步研究。Aten 并未授予 Muse 读取
微软公司联合创始人比尔·盖茨在接受《纽约时报》专栏作家埃兹拉·克莱因采访时,对人工智能发出严厉警告,称 AI 是“人类有史以来面对过的最危险事物”。盖茨表示,今年年初,AI 已经在网络攻击和生物威胁方面跨过了危险门槛,而现有监管结构仍未做好准备。这些言论标志着盖茨对 AI 风险的看法发生了重大转变;2023 年时,他对相关风险的评估更为审慎,称这些风险是可控的。 盖茨称 AI 今年年初已跨过网络和生物威胁门槛 盖茨区分了两类风险:一类是人类使用能力日益增强的 AI 系统所带来的近期风险,另一类是长期情景,即 AI 本身可能变得难以控制。他表示,AI 已经能够赋予恶意行为者过去只有高度专业化专家才具备的能力。 盖茨在采访中表示:“AI 已经跨过了这样的门槛:它能够赋予生物恐怖分子杀死数亿人的能力——这种能力如今已经存在。”“发动网络攻击、扰乱所有银行账户、关闭电网的能力——这种能力如今已经存在。” 盖茨表示,这些已不再是假设性风险,并称“我们在今年年初跨过了网络威胁门槛,也跨过了生物威胁门槛”。他不认同可以相信科技公司进行自我监管的观点,尤其是在开源模型能力不断增强的情况下。他表示:“在