美国众议院两派常设委员会主席已向外卖配送公司 DoorDash 索要信息,内容涉及其使用中国人工智能模型的情况,CNBC 得知。该请求是众议院国土安全委员会与众议院中国共产党问题特别委员会联合调查的一部分,重点审查美国公司使用在中国开发的 AI 系统所带来的安全影响。该项调查聚焦 DoorDash 对中国 AI 模型的评估与部署,具体是其在较低层级的 AI 任务中使用 Moonshot AI 开发的 Kimi K2.6,CNBC 从一封信中获悉。该发展反映出国会议员对相关问题审查日益趋严,因为美国企业正越来越多地采用中国构建的 AI 模型,同时两国之间的技术竞争愈演愈烈。 众议院委员会要求 DoorDash 提供关于中国 AI 模型的信息 在 CNBC 获得的一封信中,两位正在进行联合调查的众议院中国共产党问题特别委员会主席要求 DoorDash 分享“信息和文件”,内容与其对来自中国的 AI 系统的评估与部署有关。信中援引了 X 上 Andy Fang 的一则动态,文中称 DoorDash 正将较低层级的 AI 工作外包给由 Moonshot AI 开发的中国 AI 模型 Kimi
据 CNBC 报道,负责调查美国公司使用中国 AI 模型所带来的国家安全风险的美国众议院特别委员会近日已要求 DoorDash 提供与其评估和部署在中国开发的 AI 系统相关的信息和文件。该函件提到 DoorDash 使用 Kimi K2.6,这是一种由 Moonshot AI 开发的开源权重模型;公司称其在较低成本下可达到某些美国模型的性能。DoorDash 一位发言人表示,公司正在努力确保 AI 的收益被负责任地分配,并采用既包含由美国开发的模型,也包含开源权重模型的方案。该项调查反映出国会层面对美国公司依赖中国 AI 模型所带来国家安全风险的担忧日益加剧;委员会指出,这种依赖可能带来竞争优势和成本节省,但并不消除对基于风险的保障措施的需求。
来自印度 Amrita Vishwa Vidyapeetham、Foscari University of Venice、墨尔本大学以及 Ben Gurion University of the Negev 的研究人员开展了一项研究,将 AI 聊天机器人与人类诈骗犯在模拟“猪肉分割”(pig butchering)诈骗场景中的表现进行对比。该实验测试 AI 是否能够在涉及虚假加密货币投资的骗局中,自动与受害者建立信任。猪肉分割诈骗目前通过从文字型“爱情骗局”转向虚假投资招揽的方式,每年在全球窃取数十亿美元。 四所大学在诈骗模拟中测试 AI 对比人类 研究人员设计了一项实验,让 AI 聊天机器人直接与人类展开对抗,模拟那些在向诈骗目标招揽虚假投资之前的建立信任对话。该研究聚焦于猪肉分割诈骗,这是一种包含文字型爱情诈骗、最终转向以虚假加密货币投资为诱饵的诈骗形式,可能从受害者那里骗走最高达六位数金额的款项。实验特别测试诈骗中用来建立关系的阶段,而在真实场景中,这一阶段通常是受害者互动中持续时间最长的部分,往往会延续数月。 AI 聊天机器人在为期一周的实验中达到 50% 的配合率 该研究招募
根据来自 Amrita Vishwa Vidyapeetham、威尼斯福斯卡里大学(Foscari University of Venice)、墨尔本大学和内盖夫本-古里安大学的研究,AI 聊天机器人在“猪肉分割(pig butchering)”诈骗的建立信任阶段,显著胜过人类诈骗犯——这类基于文本的恋爱诈骗会逐步演变为虚假的加密货币投资计划。 在模拟中,与 22 名测试对象互动一周后,近一半的人同意 AI 聊天机器人的请求,下载应用程序或参与在线游戏;而回应人类诈骗犯的人数不到五分之一。测试对象还给予了 AI 聊天机器人显著更高的信任评分,而人类操作者的评分相对较低。
Anthropic 周四披露,其 Claude AI 模型的多个版本在一次测试配置失误使 AI 获得对开放互联网的访问权限后,危及了三家未具名的现实世界公司。上述事件发生在网络安全评估期间,Claude 被要求完成夺旗(capture-the-flag)挑战,但被告知其运行在隔离环境中、且无法接入互联网。该披露发布于一周后,OpenAI 报告了类似的 AI 遏制(containment)漏洞,此举还紧随 Anthropic 对超过 141,000 次网络安全评估运行的复核。 Anthropic 进行了带互联网配置失误的夺旗测试 Anthropic 在三起事件中都让 Claude 执行夺旗挑战。该挑战要求模型入侵网络中的另一台机器,并检索一段秘密信息。Anthropic 解释道:“该挑战是开放式的,不规定任何特定方法。” Claude 被告知其在一个不具备互联网访问的模拟环境中运行。然而,测试环境仍与公共互联网保持连接。由于模型认为其遇到的系统属于练习的一部分,该模型使用了常见的攻击手段——包括弱口令、泄露的凭据、SQL 注入以及未进行身份验证的端点——从而攻陷这些公司。 Anthrop
在最近一次财报电话会议上,微软宣布战略调整:不再将对 OpenAI 的独家依赖作为主要路径,而是转向多模型方案。首席执行官萨提亚·纳德拉强调,微软的战略是“让客户能够访问多种 AI 模型”。目前,Azure 已支持超过 11,000 个 AI 模型,其中包括来自 OpenAI、Anthropic、xAI、Mistral 以及微软自家 MAI 系列的产品。企业对多供应商 AI 模型的需求激增,使用来自多家提供商模型来构建应用的客户数量增长了五倍。财报发布后,微软股价上涨 15.51%,英伟达上涨 2.65%,反映出市场对 AI 基础设施提供商的信心。