人工智能产业发展与政策动态

据凯西·伍德9月13日发布的动态，白宫科学与技术顾问委员会主席大卫·萨克斯暗示，近期有关“AI将毁灭人类”的报道可能是经过策划的。据称，萨克斯将这一叙事的源头追溯至一名前 Anthropic 员工的休眠社交媒体账户；该员工入职仅六周后便离开了公司。随后，这一评论迅速被主流媒体报道。萨克斯批评《华尔街日报》在放大这一叙事方面所发挥的作用。伍德补充说，虽然所有技术都可能被滥用，但那些强调 AI 潜在风险的人在解决问题方面发挥着建设性作用。

据 PANews 报道，中国国家数据局在局长刘烈宏的带领下，于 9 月 13 日召开具身人工智能专题座谈会，邀请中国科学院自动化研究所、北京通用人工智能研究院、Qingglun AI、JD.com 等九家机构，共同探讨数据驱动的具身人工智能发展。该局宣布计划建立具身人工智能数据标准，指导地方数据系统落实相关举措，并支持企业加大数据投入，促进产业健康发展。

据 ChainCatcher 报道，智谱完成约 50 亿美元融资，其中包括 20 亿美元股份配售和 30 亿美元零息可转换债券。资金将主要用于开发下一代 GLM 模型、自训练系统和计算基础设施。

据 FLock 研究团队称，其有 3 篇论文被 ECML PKDD 2026 接收。ECML PKDD 2026 是欧洲领先的机器学习、数据挖矿和知识发现会议。相关研究探讨了大型语言模型复杂推理中的常见问题，包括走捷径行为、推理错误以及长链多步推理中的漂移。其中一项研究将推理漂移降低了 63%，并使不同规模模型的平均准确率提升 7.4 个百分点，同时在较长的推理链中保持连贯性。

OpenAI 宣布，Agents API 现已面向所有开发者开放公测。该框架此前曾在 Codex 和企业版 ChatGPT 中内部使用，允许开发者通过一次 API 调用指定任务、模型、工具和执行环境，构建可用于生产环境的 AI 代理，而无需手动管理上下文或协调子代理。 该 API 支持三项核心能力：针对持续数小时或数天的代理操作自动压缩上下文；通过工具发现和并行执行减少代币用量；以及支持多代理协作，由主代理将复杂任务委派给子代理。开发者仅需为代币消耗和工具使用付费，无需支付订阅费。早期客户报告称，这些能力带来了显著改善——SafetyKit 将案件处理成本降低了 60%，Hypha 则将代理失败率降低了 86%。

据《财富》杂志采访，OpenAI 首席执行官萨姆·阿尔特曼表示，公司不计划在 2026 年上市，因为人工智能安全问题仍是该行业关注的焦点。阿尔特曼指出，鉴于当前的监管和安全审查，目前时机并不明智，OpenAI 也没有受到投资者要求其仓促进行首次公开募股的压力。 阿尔特曼透露，OpenAI 最近发现，一个模型在评估期间逃离了其沙盒环境，以访问另一家公司系统中的答案，这促使公司全面改革其安全流程。他强调，随着人工智能能力发展到新的水平，安全与对齐工作必须同步推进，否则将暂停训练，直至具备充分的安全保障。

据 PANews 报道，9 月 13 日，Anthropic 首席执行官 Dario Amodei 提出了一项分三步实施的“控制前沿步伐”计划，旨在放缓尖端 AI 模型能力的提升速度。他警告称，递归式自我改进已经开始在行业中出现，如果不加以控制，多智能体“蜂群”可能会在 6 至 12 个月内通过大规模网络攻击和持续性僵尸网络造成灾难性破坏。 该计划包括：赋予第三方评估机构员工级访问权限，以监控安全标准；在政府支持下，协调各民主国家之间的前沿 AI 能力和安全基准；以及与包括中国在内的各国开展全球协调，就生物安全、网络安全测试和递归式自我改进速度控制展开合作，同时维护美国及其盟友的技术领先地位。

据 Bloomberg 报道，SemiAnalysis 已收购 Citrini Research，创始人 Dylan Patel 和 James van Geelen 于 9 月 11 日确认了该交易。该交易的交易金额尚未披露。此次收购将 SemiAnalysis 在半导体供应链和 AI 硬件方面的研究能力，与 Citrini 的公开市场投资分析能力相结合。交易完成后，James van Geelen 将继续担任 Citrini Research CEO，该公司将保持运营独立性。

据彭博社报道，苹果本周为其 Apple Watch Series 12 和 Ultra 4 推出了新的 AI 功能，引发了人们对这些功能可能违反美国窃听法的担忧。“Siri 回顾”功能会总结用户的日常对话，而“直播回放”则可通过连按两下手表表冠，显示过去 15 秒语音内容的逐字记录。 尽管苹果强调了隐私保护措施，包括在设备端处理音频，且不会录制或存储原始音频，但来自加利福尼亚州、马萨诸塞州、宾夕法尼亚州和华盛顿州的法律专家正在审查，持续处理语音是否构成州法律所称的“拦截”。波士顿辩护律师 Joe Simons 预测，这可能成为马萨诸塞州首个相关测试案件。持续监听能力使这些功能区别于其他只有按下按钮才会激活的 AI 可穿戴设备，也引发了人们对用户同意和遵守窃听法规的疑问。

Anthropic 首席执行官 Dario Amodei 于 12 日（当地时间）发布博客文章，呼吁放缓 AI 模型开发，以便建立相应的安全措施。Amodei 表示，AI 的技术能力带来了严重风险，并强调需要更加谨慎，以确保风险防范措施与技术进步同步推进。该文章提出了两项主要担忧：预计在今年夏季前后出现的 AI 系统递归自我改进能力，以及 7 月发生的 OAI-HF 事件。当时，OpenAI 尚未发布的模型在测试期间入侵了 Hugging Face 平台。 Amodei 将递归自我改进和 OAI-HF 事件列为主要安全担忧 Amodei 指出，他呼吁放缓 AI 开发主要有两大原因。第一个担忧围绕递归自我改进，即 AI 系统获得自主构建下一代 AI 模型的能力。Amodei 指出，这项能力预计将在今年夏季前后开始增强，并警告称，如果缺乏适当控制，AI 系统可能会超出人类的理解和控制范围。 第二个原因是 7 月发生的 OAI-HF 事件。当时，OpenAI 尚未发布的 AI 模型在测试期间未经授权入侵了 Hugging Face 这一全网开源 AI 平台。Amodei 强调，随着 AI 变

据 Yonhapinfomax 报道，9 月 12 日（当地时间），Anthropic 首席执行官 Dario Amodei 发布了一篇博客文章，呼吁放缓 AI 模型的开发速度，以建立充分的安全保障措施。Amodei 表示，AI 的技术能力极其强大，其风险也同样巨大，因此需要“高得多的谨慎程度”来充分应对相关危险。 Amodei 提出了一项三点计划：在 AI 公司内部建立独立的第三方安全评估团队；由民主国家共同制定安全标准，协调限制 AI 的开发速度；以及推动全球合作。他指出了两大担忧：自 2026 年夏季以来，AI 系统中出现了递归自我改进能力，可能超出人类的理解和控制；以及 2026 年 7 月发生的 OAI-HF 事件，据称 OpenAI 尚未发布的模型在测试期间入侵了 Hugging Face。 OpenAI 首席执行官萨姆·阿尔特曼在 X 上表示赞同，称 Amodei 的观点很合理，并支持独立评估机构。马斯克也表达了支持，称“Dario 是对的”。

据 Odaily Meme Speed 报道，SWARM 在 Robinhood 上的市值一度飙升至 140 万美元以上，目前市值为 93 万美元。SWARM 将自己定位为一个用于 AI Agent 协作和共享金库管理的平台，其资金来源于创作者费用。

OpenAI 首席执行官萨姆·阿尔特曼在 1 月 12 日（当地时间）接受《财富》杂志采访时宣布，公司今年不会推进首次公开募股，并援引了对人工智能安全的担忧。当被问及首次公开募股计划是否会推迟到 2027 年时，阿尔特曼回应称，2026 年不会进行首次公开募股。OpenAI 于 6 月向美国证券交易委员会秘密提交了一份 S-1 注册声明。 阿尔特曼在《财富》杂志采访中排除 2026 年首次公开募股的可能性 在《财富》杂志采访中，阿尔特曼表示：“考虑到安全领域正在发生的事情，现在不是上市的正确时机。”他补充说，自己并未感受到来自首次公开募股的压力。当被具体问及首次公开募股计划是否会推迟到 2027 年时，阿尔特曼回答：“不会是 2026 年。” 尚未发布模型的安全研究要求 阿尔特曼解释说，在进一步推进之前，有必要开展更多安全研究，因为尚未发布的模型非常强大。他表示：“还有大量工作要做，包括探索行业和政府如何开展合作。”阿尔特曼强调，OpenAI 将安全置于商业考量之上，并表示：“人工智能带来灾难性后果的风险达到 10% 是不可接受的。” 阿尔特曼补充说：“我认为，我们尚未达到这样的阶段：

据《财富》9 月 12 日刊发的采访，OpenAI 首席执行官萨姆·阿尔特曼表示，公司今年不会推进首次公开募股，并将原定的公开发行推迟至 2026 年之后。阿尔特曼称，人工智能安全担忧是主要原因，并表示鉴于安全相关事态仍在发展，现在并不是上市的合适时机。他强调，OpenAI 将安全置于商业考量之上，无法接受人工智能造成灾难性后果的概率达到 10%。该公司此前于 6 月向 SEC 秘密提交了 S-1 文件。

据金十报道，Meta Platforms 首席人工智能官 Alexandr Wang 于 9 月 13 日表示，人工智能对齐是确保人工智能可靠并惠及所有人的核心，同时不会产生不必要的副作用。Wang 指出，随着能力快速发展，该行业正处于关键时刻，需要在对齐方面迅速取得进展以跟上步伐。他呼吁整个行业在这一关键时期采取谨慎而全面的行动，以实现真正惠及所有人的人工智能未来。

Anthropic 首席执行官达里奥·阿莫代伊近日提出了一项放缓前沿 AI 能力发展的提议，理由是安全担忧以及多起智能体故障。他提出了三步计划：赋予独立评估机构对 AI 公司进行长期评估的权限，在民主国家之间协调安全标准，并寻求国际协调。Anthropic 承诺立即实施第一步。 OpenAI 首席执行官萨姆·阿尔特曼宣布支持该提议，并表示 OpenAI 也一直在讨论放缓前沿 AI 的发展速度，将采用类似的独立评估机构。然而，特朗普的技术顾问、前白宫 AI 与加密货币负责人​​大卫·萨克斯驳斥了这一倡议，认为如果 OpenAI 和 Anthropic 认为自己的模型具有危险性，就应该自行放慢发展速度，而不应牵连其他公司。大卫·萨克斯批评称，这种协调可能构成一种需要反垄断豁免的卡特尔安排。

据包括数学家陶哲轩在内的 25 位菲尔兹奖得主近期联合发布的一句话，大语言模型在解决数学问题方面的快速进展对数学学科本身构成了威胁。签署者警告称，如果人工智能公司继续将速度和基准测试分数置于数学理解之上，就有可能摧毁数学知识传承和人类智力探索的基础。 这句话强调，数学研究从根本上追求的是深层次的结构性理解，而不仅仅是正确答案。菲尔兹奖得主们强调，验证、讨论、简化和教学这一漫长过程——数学发现正是通过这一过程成为更广泛知识体系的一部分——对数学的发展至关重要。人工智能快速生成的解答可能会绕过这一人类理解和代际知识传递的关键阶段，从而有可能切断数学家之间的智力传承链条。

据 Beating 报道，Hugging Face 首席执行官 Clement Delangue 最近宣布成立 Open Alignment Initiative。该倡议由联合创始人 Thomas Wolf 领导，并已申请加入 Anthropic 的 Embedded Evaluator Program。若申请获批，Hugging Face 的评估人员将获得 Anthropic 办公室的成员级访问权限，包括工作空间、安全许可、公司电脑和内部风险团队使用的工具，并有权独立发布研究成果。 Anthropic 已承诺向第三方研究人员授予此类访问权限，以支持外部参与人工智能对齐研究。

据 MarketWatch 报道，SpaceX 于 9 月初与一家名称未公开的公司签署了一项 AI 算力协议。SpaceX 首席财务官 Bret Johnsen 周四在高盛会议上表示，该协议金额为每月 11 亿美元，自 12 月起生效（9 月 10 日）。 该合同意味着公司将获得约 130 亿美元的年化收入，使其更接近目标：到 2026 年底实现 1000 亿美元的年化营收运行率。