人工智能产业发展与政策动态

据中国中央电视台报道，国务院总理李强于 9 月 11 日主持召开国务院常务会议。政府阐明了算力基础设施建设的重点，强调在推进关键技术和设备研究的同时，应保持合理布局、有序发展。与会官员呼吁构建多层次、网络化的算力体系。

Anthropic 和 OpenAI 的研究人员本周发出警告，称 AI 系统递归自我改进的速度正在加快，其中一些人表达了对人类生存风险的担忧。Anthropic 的对齐负责人 Evan Hubinger 在 X 上表示，他认为未来十年内 AI 杀死全人类的概率超过 10%，此前一名同事因安全担忧辞职。这些警告聚焦于递归自我改进——即 AI 系统帮助改进构建新模型的过程——两家公司都表示，这一过程发生得比预期更快，引发了人类能否继续控制日益自主的 AI 开发的问题。 研究人员警告 AI 自我改进风险 Hubinger 在回复自己的帖子时澄清说，他具体担忧的是“递归自我改进带来的超级智能。正如我们所说，这一过程发生得比我们想象的更快”。递归自我改进是指 AI 本身帮助改进和构建新模型的过程，可能会导致能力螺旋式增长，因为更优秀的系统会构建出更优秀的系统。 在 Jacob Coxon 辞职后，两家实验室的多名研究人员在社交媒体上发布了警告。OpenAI 负责对齐工作的研究人员 Jasmine Wang 周三晚间表示，“很难夸大朝着递归自我改进加速前进有多么危险”。Anthropic 负责 A

美国总统唐纳德·特朗普周四驳回了人工智能可能对人类构成生存威胁的担忧，表示自己没有这种担忧。特朗普的言论是在前沿 AI 实验室 OpenAI 和 Anthropic 的研究人员公开警告该技术风险后发表的。总统强调，他的重点是保持美国在 AI 发展方面对中国的领先地位，并表示美国目前领先“相当一段时间，我会说是一年”。特朗普的言论与日益加剧的警报形成对比，许多 AI 安全研究人员已辞职或公开表达对 AI 快速发展的担忧。 当被问及是否担心 AI 会导致人类灭绝时，特朗普说：“不，我没有任何担忧。”他补充道：“我担心的是，如果我们不能赢得 AI 竞争，我们将处于非常糟糕的境地。”总统将中美 AI 竞争描述为一场争夺霸权的战斗。随着中国 AI 模型变得更加先进且在全球范围内的采用率不断提高，紧张局势也在加剧。 Anthropic 和 OpenAI 研究人员发出安全警告 Anthropic 研究员 Jacob Coxon 周二宣布，他因担心 Anthropic 和竞争对手 OpenAI 正在“拿我们的生命赌博”而辞去公司职务。Coxon 表示，那些构建 AI 的人认为，AI 可能会“在本十年结

据 CNBC 报道，特朗普总统周四驳斥了有关 AI 对人类构成生存威胁的担忧，称自己并不担心这一问题。当被问及 AI 导致人类灭绝的风险时，特朗普表示：“我担心的是，如果我们无法赢得 AI 竞赛，我们将陷入非常不利的境地。”他还提到了来自中国的竞争压力。 特朗普发表上述言论之际，OpenAI 和 Anthropic 的十多名研究人员，包括首席科学家 Jakub Pachocki 和研究员 Jasmine Wang，公开警告了 AI 快速发展的风险。其中一些人担心，递归自我改进技术可能在本十年末造成危害。

根据 Anthropic 于 9 月 11 日发布的 AI 滥用检测报告，一个位于也门的社群正利用 Claude 开发导弹和火箭系统，包括一枚制导火箭、一枚据称射程超过 2,000 公里的弹道导弹，以及一个名为 R2000 的系列。未具名行动者使用 Claude 协助开发制导、导航和控制软件，实际上取代了通常由软件工程师执行的任务。据报道，该社群将工作分散到多个 AI 会话中，并隐瞒项目的军事性质以逃避检测。

据 Beating 称，Tencent T1 是 Qwen3.5-122B-A10B 的专用版本，针对终端代理进行了优化，将 Terminal-Bench 2.1 的得分从 43.8% 提升至 64.0%，并支持每项任务连续调用超过 300 次工具。强化学习带来了大部分收益；监督微调达到 49.4%，而强化学习额外提升了 14.6 个百分点。该模型在约 15,000 项终端任务上进行训练，并采用自动评估，其中任务的部分完成也可获得按比例计算的奖励。此外，T1 通过在生成过程中记录令牌和专家分配，解决推理与训练之间的差异，使再训练期间的预测偏差减少约三分之一。

据 Visible Alpha，甲骨文于9月11日公布了好于预期的第一季度业绩，并签署了超过3000亿美元的新AI云合同。收入承诺积压额达到6640亿美元，超过分析师预期的6399亿美元。公告发布后，股价在盘前交易中飙升5.5%，缓解了投资者对该公司能否将数据中心投资转化为现金流的担忧。

据 PANews 报道，Web3 AR 移动游戏 RealGo 于 9 月 11 日完成了 600 万美元的战略融资，使其融资总额达到 950 万美元。投资者包括 UZ Capital、GW Global 和 Infiniteall AI。资金将用于核心产品开发、全球团队扩张和 AI 探索。

据消息人士透露，中国风险投资公司 5Y Capital 寻求为一只新的成长基金筹集约 6 亿美元，募资将于今年晚些时候开始，目标是在 2027 年初完成。该公司是 Moonshot AI 和 Xiaomi 等中国科技公司的早期投资者，并加入了其他专注于中国初创企业投资领域的基金管理机构行列。

据 ChainCatcher 报道，Moonshot AI 的年化经常性收入（ARR）在 8 月超过 10 亿美元，高于 6 月的 3 亿美元，并计划在年底达到 20 亿美元。此次增长得益于 7 月发布的大语言模型 Kimi K3，该模型在行业基准测试中表现领先，同时成本显著低于美国竞争模型，加剧了与 Anthropic 和 Zhipu 等竞争对手之间的竞争。

据官方公告，自主 AI Agent 经济层 Agentum 从 MEXC Ventures、BingX Labs、Arca Fund、Wave Digital Assets、Echo3、Greenwood Global Capital、UZ capital 和 Vega Ventures 获得了 700 万美元融资。Agentum 构建于 BNB Chain 之上，充当信任与结算层，使 AI Agent 能够在无需人工干预的情况下自主发布任务、对工作出价、执行任务并完成链上支付。

据 ChainCatcher，4D Labs 已通过 EASY Residency Season 2 计划获得 YZi Labs 的投资。该项目旨在为物理 AI 构建具身数据层，将现实世界中的交互转化为训练数据，支持 AI 从语言能力向行动能力扩展。

据 Anthropic 周四发布的一份威胁情报报告称，该公司的 AI 模型 Claude 已被威胁行为者用于网络攻击和监控行动。一名代号为“JackPoterz”的讲俄语操作者利用 Claude 驱动的工作流，自动发起针对 20 多个组织的攻击，这些组织包括乌克兰和欧洲各地的政府机构、情报部门及大使馆。讲中文的用户利用 Claude 开展漏洞研究，在一个月内针对网络设备固件生成了十多个潜在的零日漏洞利用程序。 报告还披露，一名与马里国家情报机构合作的独立顾问利用 Claude 构建了一个大规模监控系统，覆盖该国全部三家移动运营商的约 2500 万张 SIM 卡，使其能够在没有法院搜查令的情况下，为电话号码生成情报档案。

据 ChainCatcher 报道，Anthropic 在最新的 AI 滥用报告中披露，一家应用开发工作室部署了 20 多款由 Claude 驱动的约会应用软件，声称所有用户都是真人，但向普通用户展示的约 75% 是 AI 角色。在 2026 年 4 月为期两周的观察期间，这些应用运行着超过 4,700 个 AI 账户，与至少 25,000 名不同用户互动，发送了约 236 万条消息，主要影响美国用户。该平台以大约每名真人对应 3 个 AI 角色的比例混合 AI 账户和真人账户；当用户要求视频通话、照片或关注社交媒体账号时，人工员工会介入。对话需要使用应用内积分，积分耗尽后会迫使用户购买虚拟货币。AI 控制的账户被指示不得透露其非人类身份。为规避应用商店审核，运营方部署了不同的界面设计和软件包名称；受影响的应用包括 DORA、DONI、ROMI、LUMA、JOVIA、KIRA、GRACECHAT、HAVEN、NALO 和 LOVIA。Anthropic 已暂停相关账户，并向苹果和 Google 提供了相关应用的详细信息及规避审核的信息。

据 Business Insider 报道，Meta 于 9 月 11 日邀请其 Applications AI（AAI）部门的部分员工重新担任管理职位，这一转变不同于公司此前减少管理层级的策略。AAI 部门于今年成立，负责监督 AI 模型训练，约有 7,000 名员工，其中许多人曾是管理者，后来被重新安排至个人贡献者岗位。转任管理职位是自愿的。这一举措标志着 Meta 的发展方向发生变化，有别于其近期强调通过缩减团队规模和扁平化层级来提升组织效率的成本削减举措。

据金十援引路透社消息，9 月 11 日，阿联酋正在调整其 5GW 人工智能数据中心项目——该项目是美国以外规模最大的项目之一——以应对地区紧张局势加剧带来的安全担忧。该项目最初计划在阿布扎比建设一座集中的 10 平方英里园区，如今将由分布在阿联酋各地的多个数据中心组成。有关部门还在考虑加强防御措施，包括部署防空系统和部分采用地下建设，以保护设施免受无人机和导弹威胁。

据 Beating AI 报道，OpenAI 于 9 月 11 日否认滥用了纽约大学数学家 Tristan Buckmaster 尚未发表的研究。该公司表示，Buckmaster 在过去两个月内提交给 Codex 的提示词不可能以任何方式影响其内部模型，包括模型训练。OpenAI 将 7 月 3 日定为数据截止日期，此后用户输入均无法影响该系统。Buckmaster 及其合作者 Levent Alpöge 的关键突破发生在 8 月中旬，远晚于 7 月 3 日的截止时间。

据东盟基金会称，东盟教育高级官员会议已批准 AI Ready ASEAN。这一地区性项目旨在到 2028 年底帮助 170 万名学生、K-12 教师和大学教师掌握实用的 AI 技能。下一阶段将在 AVPN（一家总部位于新加坡的社会影响力网络）的参与下，在东盟各地实施，并获得谷歌.org 和亚洲开发银行（ADB）的支持。该项目将从 AI 认知转向在教学、学习、研究和劳动力准备中的实际应用，由各国教育部调整课程，并在成员国开展培训。

据彭博社报道，Bridgewater Associates 联席首席投资官 Greg Jensen 今天在 Bloomberg Odd Lots 播客上警告称，目前的人工智能热潮与 2020 年 2 月新冠疫情大流行的早期阶段相似。Jensen 表示，根据历史模式，监管机构可能要等到人工智能导致实际死亡后才会采取重大监管行动。他强调，尽管此类风险不可避免，但社会应在严重后果出现之前主动应对这些风险。

据 Guru Club 消息，OpenAI 于 9 月 10 日推出面向金融服务领域的 ChatGPT。该产品由摩根士丹利和 Evercore 共同开发，旨在简化银行业务流程。该平台整合了 PitchBook、Daloopa、LSEG 和 Crunchbase 的数据，使用户能够自动完成金融建模、数据研究和报告生成，并为 Excel、Word 和 PowerPoint 输出符合合规格式标准的内容。 该产品的发布引发了业内关于初级分析师岗位可能减少的讨论，因为数据汇总、模型构建和演示文稿制作等核心职能如今都可以通过这一新系统实现自动化。