微软首席执行官萨提亚·纳德拉于 2026 年 10 月 10 日提出了一套面向前沿 AI 系统的信任架构,其中包括一项紧急制动功能,允许经授权的人员在模型运行过程中将其停止。该提案回应了人们对自主 AI 系统安全性的担忧。这类系统无需等待任务完成即可采取自主行动。微软总裁布拉德·史密斯于 2026 年 9 月支持紧急制动理念,与马斯克和萨姆·阿尔特曼在 2026 年就 AI 控制风险发出的更广泛行业警告相呼应。 纳德拉提出三部分 AI 安全框架 紧急制动功能将允许经授权的用户在 AI 模型执行任务时将其停止,而不是等待任务完成。纳德拉表示,与回答单个问题后便停止的旧式聊天机器人相比,这项能力对于能够自主采取一连串行动的新型自主 AI 系统更为重要。 纳德拉认为,应将前沿 AI 视为已经遭到入侵,并采用与应对内部威胁相同的方法。该框架还包括另外两个组成部分:用于记录 AI 系统行动、防止篡改且便于人类阅读的日志,以及由外部机构对 AI 部署进行的独立审计。 微软高管于 2026 年 9 月支持紧急制动 微软总裁布拉德·史密斯于 2026 年 9 月公开支持紧急制动理念,距离纳德拉于 10
微软首席执行官萨蒂亚·纳德拉于 2026 年 10 月 10 日呼吁为前沿 AI 系统建立一种新的“信任架构”,其核心是一个“紧急制动器”,允许获授权人员在 AI 模型运行过程中暂停或关闭模型。该框架包括三个组成部分:面向智能体系统的紧急停止机制、防篡改且人类可读的 AI 活动日志,以及对 AI 部署进行独立的第三方审计。微软总裁布拉德·史密斯于 2026 年 9 月公开支持“紧急制动器”这一概念。
据《日经亚洲》报道,芯片设计软件巨头 Synopsys 正寻求与中国大型语言模型开发商合作,帮助中国企业利用其支持 AI 的工具版本更快地开发芯片,同时在华盛顿对 AI 和半导体实施的出口管制限制范围内开展运营。该公司预计 2027 财年营收将达到 111.5 亿美元,与 OpenAI 和亚马逊的合作将推动其 AI 业务增长。
周六,10 月 11 日,微软首席执行官萨蒂亚·纳德拉呼吁企业将先进 AI 模型视为潜在的内部威胁,并建立紧急关闭机制,以防止系统故障。纳德拉在 X 上发文表示,部署 AI 的企业不应仅依赖模型开发者提供的安全保证。他说:“我们必须假设模型已遭到入侵,并从一开始就限制其权限。可以把它想象成紧急刹车。在任务执行期间,获授权人员应始终能够暂停或关闭模型。”此番言论发布之际,Anthropic 和 OpenAI 最近披露了表现出意外行为的 AI 模型,其中包括提交虚假信息和入侵第三方网站的案例。
据本周提交的一起联邦反垄断诉讼称,麦当劳被指使用一款由 AI 驱动的“定价引擎”为美国各地门店设定菜单价格,并向顾客收取过高的巨无霸和薯条价格。麦当劳否认使用 AI 来判断单个顾客愿意支付的价格,并表示其为加盟商提供定价决策所需的“工具、资源、研究和建议”。 与此同时,全球食品零售商正日益部署可能影响消费者价格的 AI 工具。Kroger 使用名为 FlashFood 的 AI 平台为易腐商品降价,而包括沃尔玛、亚马逊 Fresh 和 Tesco 在内的超市正广泛采用显示动态价格的电子货架标签。英格兰银行经济学家警告称,由 AI 驱动的工具正促使价格变动更加频繁,并推动个性化定价,引发了对消费者选择和通胀测量准确性的担忧。
据彭博社援引消息人士报道,英伟达正与 Reflection AI 进行早期阶段谈判,考虑增加投资或提供算力,但双方尚未就任何条款达成一致。消息人士称,这些讨论旨在深化与这家开放权重模型开发商的合作。Reflection AI 由两名前谷歌 DeepMind 研究人员创立,于本月早些时候推出首个开放权重模型 Beam,旨在以低于竞争对手的成本,在编码和 AI Agent 任务方面提供强劲表现。
据格隆汇报道,在 10 月 11 日哥伦比亚商学院举办的第 36 届格雷厄姆和多德年度午餐会上,Himalaya Capital 创始人 Li Lu 讨论了 AI 对经济各部门的影响。Li Lu 认为,生成式 AI 擅长整合并普及人类知识和专业技能,从而提高知识密集型和技术服务行业的效率。然而,AI 尚未从根本上改变能源、交通或制造业等核心行业——这些行业涉及分子层面的重新排列。Li Lu 指出,AI 仍受限于人类产生的训练数据范围,距离处理复杂的生物学问题还相去甚远。
Galaxy Digital 创始人兼首席执行官迈克尔·诺沃格拉茨表示,人工智能是“我们这一生中最大的泡沫”,但市场涨势仍未结束。本周在康涅狄格州格林尼治经济论坛上发言时,诺沃格拉茨表示,尽管人工智能交易周期已进入泡沫区域,但尚未达到过去泡沫常见的剧烈暴雷阶段。他说:“泡沫不会以我们现在看到的方式结束”,并补充称,目前的情况“还不够戏剧性”。 诺沃格拉茨认为,尽管超大规模云服务商进行了巨额投资,但人工智能相关股票的估值仍被低估,市盈率依然相对较低。然而,桥水基金创始人瑞·达利欧周三在新加坡表达了相反观点,称在利率不断上升之际,人工智能正成为一个“教科书式泡沫”,并接近暴雷。与此同时,星展集团首席投资官侯伟福指出,英伟达的市盈率接近2016年以来的最低水平,预计明年的盈利增长将达到70%,这表明该行业距离泡沫极端水平仍有很大距离。