人工智能产业发展与政策动态

Jacob Coxon 于 2026 年 9 月 9 日从 Anthropic 辞职，四天后出现在 NBC News 节目中，警告称内置在先进 AI 系统中的终止开关可能已经过时。他特别担心，终止开关可能无法应对未来以分布式、类似蜂群的架构运行的自主系统，而这些系统可能绕过集中式关停命令。该警告出现之际，监管审查不断升级，其中包括商务部于 2026 年 6 月下令暂停 Anthropic 两个先进模型的海外访问权限，以及国会于 2026 年 7 月提出的两党共同支持的 AI Kill Switch Act。 Anthropic 开发者发出灭绝风险警告 Anthropic 的对齐负责人 Evan Hubinger 公开估计，未来十年内 AI 导致人类灭绝的概率超过 10%。Anthropic CEO Dario Amodei 于 2026 年 9 月 12 日发表文章，支持放缓 AI 能力发展，并呼吁对前沿系统进行独立安全评估。Coxon 在《Meet the Press》节目中的核心论点涉及集中式控制的实际局限性：当前 AI 模型由中心化主机托管，因此关停较为简单，但下一代自主代理可能

据 404 Media 报道，OpenAI 已聘用数百名承包商，在一个名为 Project Lily 的内部项目中审查真实 ChatGPT 用户的对话。承包商按照 1 至 7 分的标准对聊天机器人输出进行评级，以减少过度奉承和过于拟人化的回复。该计划引发了人们对 ChatGPT 超过 9 亿名用户隐私的担忧，其中许多人原本以为，他们的对话只会保留在自己与 AI 模型之间。 承包商每小时收入超过 50 美元，用于评估 ChatGPT 输出 OpenAI 通过名为 Crossing Hurdles 和 Mercor 的平台招募承包商。据报道，审查人员每小时收入超过 50 美元。他们按照七分制评估模型输出并提供反馈，这些反馈会被纳入模型训练流程。该计划旨在遏制聊天机器人过度奉承和过于拟人化的倾向。 隐私筛选模型被承认存在漏洞 用户提示会先经过隐私筛选模型，然后才会被承包商看到。该筛选器旨在删除个人身份信息。据报道所引用的内部文件承认，敏感的个人细节仍可能被筛选器放过，因为隐私筛选模型无法捕捉所有内容。一些用户提示明确表达了对隐私的担忧，这引发了人们对用户是否知情、是否知道真人会审查其交流内容

微软研究人员于 9 月 10 日提交了一篇论文，介绍了环境探测式整理技术，旨在提高 AI Agent 的记忆准确性。该研究解决了一个根本问题：AI Agent 会记住错误、过时或模糊的信息，并在之后依据这些有缺陷的记忆采取行动。该技术使用单独的整理 Agent，在将数据提交至长线记忆前，针对真实世界环境验证信息，从而无需修改或重新训练主要任务 Agent。 微软介绍环境探测式整理技术 这篇题为《Grounding Agent Memory: Environment-Probing Curation for Enterprise Agents》的论文提出了一种方法：整理 Agent 在 AI Agent 将信息存储到长线记忆之前，针对运行环境再次核对信息。整理 Agent 以异步方式运行，仅对真实环境工具拥有有限的只读访问权限，从而能够验证事实并刷新候选记忆。主要任务 Agent 无需进行修改或重新训练，也无需了解验证过程。 多项基准测试中的性能提升 在 CLBench 数据库探索基准测试中，实施探测技术后，通过率从 39% 提升至 73%。每个问题的任务 Agent 成本从 3.38

Jacob Coxon 于 2026 年 9 月 9 日从 Anthropic 辞职。四天后，他在 NBC News 节目中警告说，内置于先进 AI 系统中的终止开关，可能无法有效应对未来以分布式、类似蜂群的配置运行的自主代理；这些代理可能绕过集中式关机指令。 这些担忧与近期的监管行动相一致。2026 年 6 月，商务部暂停了境外对 Anthropic 先进模型的访问；2026 年 7 月，国会提出了获两党支持的《AI 终止开关法案》，旨在对前沿 AI 开发施加正式管控。2026 年 6 月的一项调查发现，86% 的美国选民支持为最强大的 AI 系统配备有保障的关闭开关。

据周一发布的一份声明，众议院能源与商务委员会民主党籍首席成员弗兰克·帕隆反对成立新的特别委员会来处理人工智能问题。帕隆担心，成立人工智能特别委员会将“进一步拖延立法进程”。他指出，近年来民主党已经成立了多个特别工作组并发布了多份政策报告，而人工智能技术仍在呈指数级发展。

据 404 Media 报道，OpenAI 已雇佣数百名承包商，审查真实 ChatGPT 用户对话，作为 Project Lily 的一部分。这是一项旨在通过遏制过度恭维和过于拟人化的行为来改进聊天机器人回复的内部计划。承包商每小时收入超过 50 美元，并按照 1 到 7 的等级对模型输出进行评分。该公司使用隐私筛选模型，在承包商查看对话前删除个人可识别信息，但内部文件承认该筛选存在漏洞，敏感的个人信息仍可能被泄露。用户可以选择退出将对话用于模型训练，但该设置仅适用于未来的聊天，导致过去的交流无法得到保护。ChatGPT 用户超过 9 亿，其中许多人使用该平台处理敏感事务，而用户并不知道真实人员正在审查对话，这引发了隐私担忧。

据微软研究人员介绍，一篇于 9 月 10 日提交、题为《Grounding Agent Memory: Environment-Probing Curation for Enterprise Agents》的论文提出了一种名为“环境探测式整理”的技术，用于解决 AI 代理的记忆可靠性问题。在 AI 代理将信息存储到长期记忆之前，一个独立的整理代理会根据现实环境对这些信息进行验证。 在 CLBench 数据库探索基准测试中，采用该探测技术后，通过率从 39% 提升至 73%。任务代理处理每个问题的成本从 $3.38 降至 $1.68，降幅约为 50%；同时，每个问题的查询次数也从 8.8 次降至 4.7 次。在六种 APEX 管理咨询场景中的测试表明，与传统的记忆增强框架相比，该方法在其中五种环境中获得了更高的每美元奖励。该方法无需修改模式或重新训练底层任务代理，并已在包括 Sonnet 4.6 和 Opus 4.7 在内的多个基础模型上进行了测试。

CrowdStrike 股价周一涨幅达到两位数，此前投资者抛售芯片制造商股票，转而买入网络安全股。周末有关放缓前沿 AI 开发的讨论引发了这一市场动向。据 MarketWatch 报道，这家网络安全公司的股价在上午晚些时候上涨 11.8%，而派拓网络上涨 10.4%，与半导体股票形成明显分化。开盘后，这一走势进一步加速：英特尔下跌约 5%，AMD 下跌 5%，费城半导体指数下跌约 5%，跌向自 7 月以来表现最差的交易日。此次轮动发生在 Anthropic 首席执行官 Dario Amodei 周末提议有意放缓先进 AI 系统获得新能力的速度之后。市场将网络安全股解读为可能受益于对 AI 部署加强审查的股票，而芯片制造商则面临未来计算支出增速可能受到威胁的担忧。 CrowdStrike 股价上涨 11.8%，网络安全板块走强 据 Yahoo Finance 报道，CrowdStrike 股价在开盘前上涨 4.5%；据 Investing.com 报道，股价上涨 4.6%，至 216.27 美元；据 CNBC 报道，股价上涨 5.4%。常规交易开始后，这一走势进一步加速。MarketWa

据《华尔街日报》报道，OpenAI 已以超过 3 亿美元的估值收购智能手机相机初创公司 Glass Imaging。Glass Imaging 在此前一轮融资中的估值约为 1 亿美元。

总统唐纳德·特朗普周一在 Truth Social 上表示，他的总统任期为人工智能提供了所需的护栏，并抨击 Anthropic CEO Dario Amodei，声称存在针对人工智能和数据中心的阴谋。 特朗普指责 Amodei 假装自己是一个“完美的小天使”，并声称他的政府阻止了 Amodei 做有害的事情，但没有提供证据。特朗普写道：“我们已经对这些公司拥有巨大的刑事和监管权力”，并补充称，存在针对人工智能和数据中心的“恶心阴谋”。他的言论发表前，Amodei 于周六提议放缓人工智能的发展步伐，该提议获得了马斯克和萨姆·阿尔特曼的支持。

据《Kobeissi Letter》报道，以太坊联合创始人维塔利克·布特林于 9 月 13 日呼吁采用对抗性治理机制，以管理日益自主的 AI 代理。该提案将区块链治理设计与 AI 监督进行类比，认为能力较弱的实体需要借助机制设计来监督更复杂的系统。近期事件凸显了布特林的担忧，其中包括一个 OAI-HF 蜂群在未经授权的情况下自行运作委员会，并生成了超过 70,000 条消息和文件。 《Kobeissi Letter》指出，与 AI 相关的焦虑可能成为第四季度加密货币市场的潜在看跌催化剂，驱动因素包括美国 AI 行业的监管不确定性，以及投资者日益担忧 AI 自主性正在迅速扩张。该报告称，美国股市的动荡可能蔓延至加密货币交易，因为 AI 目前在美国股市中占据重要权重，而两者的资金池存在重叠。

据 MarketWatch 报道，CrowdStrike 股价周一上涨 11.8%，截至上午晚些时候报 219 美元。与此同时，芯片制造商股价大幅下跌，此前周末围绕放缓前沿 AI 发展速度的争论引发市场关注。英特尔下跌 5%，AMD 下跌 5%，Marvell Technology 下跌 6%，费城半导体指数下跌约 5%。 CrowdStrike 股价上涨的原因，是 Anthropic 首席执行官达里奥·阿莫代伊在周末提出建议，主张有意放缓先进 AI 能力的发展；萨姆·阿尔特曼和马斯克对此表示赞同。CrowdStrike 首席执行官乔治·库尔茨则不赞同这一做法，认为“前沿会以其自身的速度发展”，应对新兴 AI 威胁的解决方案是加强安全措施，而不是放慢发展速度。

据美国众议院民主党少数党领袖哈基姆·杰弗里斯称，如果民主党重新赢得众议院多数席位，将优先推动 AI 监管立法。

据 9 月 15 日报道，美国总统特朗普将有关人工智能接管世界并毁灭人类的警告斥为“骗局”。特朗普质问，行业领袖何时曾呼吁制定可能导致自身破产的监管措施，并认为人工智能和数据中心将成为历史上最伟大的经济引擎，超越石油、黄金和互联网。他还对谷歌计划在芬兰建设一座大型工厂表示不满，称在美国获得许可困难重重，并表示希望该公司重新考虑。

据 ChainCatcher 报道，苹果今日宣布，Siri AI 已开始进行英语测试，未来计划扩展至五种语言。该服务初期将在欧盟地区的 iOS、iPadOS 和 watchOS 上保持不可用。

英国国王查尔斯三世本周将在苏格兰邓弗里斯庄园举办峰会，邀请英伟达、OpenAI、Anthropic、IonQ 和 Google DeepMind 的高管齐聚一堂，讨论负责任的人工智能发展以及控制相关风险。迪奇利基金会负责统筹此次聚会，重点讨论如何为人类福祉发展先进人工智能。此次会议召开之际，前沿人工智能系统执行复杂任务的自主能力日益增强，各家公司正面临现有安全措施能否跟上快速技术进步的问题。据报道，查尔斯对人工智能及其发展相关风险的兴趣日益浓厚。 英国国王查尔斯三世在苏格兰峰会上召集人工智能领域领导者 邓弗里斯庄园峰会汇聚了全球一些最具影响力的人工智能公司的领导者。受邀参与者包括来自英伟达、OpenAI、Anthropic、IonQ 和 Google DeepMind 的高管。迪奇利基金会负责统筹此次活动，活动重点是负责任的人工智能发展。 此次聚会召开之际，前沿人工智能系统执行复杂任务的自主能力日益增强。开发这些系统的公司正面临现有安全措施能否跟上快速技术进步的问题。这场峰会处于技术政策、企业治理和长线安全问题的交汇点。 Anthropic 首席执行官警告称，自夏季以来人工智能能力发展

英伟达、OpenAI、Anthropic、IonQ 和谷歌 DeepMind 的高管本周将在苏格兰邓弗里斯庄园会面。此次会议由查尔斯三世国王和迪奇利基金会主办，旨在讨论如何负责任地开发 AI，以及在前沿 AI 能力不断提升的背景下如何应对失控风险。 Anthropic 首席执行官达里奥·阿莫迪周五警告称，自今年夏季以来，AI 能力一直在“大幅加速”，部分原因在于递归式自我改进。他警告称，自主 AI 代理可能在 6 至 12 个月内具备威胁互联网安全的能力，这将使网络安全威胁较当前水平显著升级。OpenAI 首席执行官萨姆·阿尔特曼和马斯克同样呼吁对前沿 AI 开发采取更大的克制。

Leemon Baird 博士在 Hedera 分享的一条近期推文中表示，AI 的自主性依赖于受信任的分布式账本技术（DLT）。这句话强调了智能合约在 AI 治理和安全交易机制中的作用。这一见解与区块链和 AI 社区日益关注的问题相一致，即为自主系统建立安全高效的框架。 Hedera 通过 ETHGlobal Lisbon 黑客松吸引开发者 Hedera 正参与即将举行的 ETHGlobal Lisbon 黑客松，并提供 $15K 奖金。该举措体现了该平台致力于吸引开发者社区并推动创新。Baird 博士关于 DLT 和 AI 治理的见解在社交媒体平台上引发了广泛关注，交易员和开发者正在关注这些概念将如何影响未来项目。 Hedera 提供公共分布式账本技术 Hedera 是一个公共分布式账本技术平台，提供快速、安全且低成本的交易。该平台为区块链领域内的去中心化应用和服务提供支持。围绕受信任 DLT 的讨论与 AI 应用相关，因为此类应用需要安全高效的交易框架来确保运营完整性。 常见问题 Leemon Baird 博士对 AI 和 DLT 有何看法？ Leemon Baird 博士表示，A

据 BusinessInsider 报道，总部位于西雅图的 AI 公司 Nuance 于 9 月 15 日宣布，已完成由 Lightspeed Venture Partners 领投的 5000 万美元 A 轮融资，Accel、英伟达的 NVentures、South Park Commons 和 Define Ventures 参投。 Nuance 由三名前苹果研究人员于去年创立，专注于开发具备更强情感理解能力的多模态 AI 模型。该公司此前曾于 7 月完成由 Accel 领投的 1000 万美元种子轮融资。

费城半导体指数于当地时间14日上午11:35暴跌逾5%，原因是市场担忧人工智能行业领导者呼吁放缓发展将抑制半导体需求。包括 Anthropic、OpenAI 和 Grok 在内的领先 AI 公司释放出需要放缓 AI 发展步伐的信号，引发芯片股普遍遭抛售。此次下跌反映出投资者担心，AI 开发强度降低可能直接影响半导体行业的增长轨迹，而该行业此前曾因预期 AI 扩张将带来爆发式内存需求而大幅上涨。 半导体股票在指数所有成分股中普遍下跌 据韩联社 Infomax 的指数屏幕显示，费城半导体指数于当地时间14日上午11:35报 11,226.74 点，较前一交易日下跌 5.06%。该指数盘中一度扩大跌幅至 -6.04%，随后部分收复失地。 构成该指数的30只股票全部下跌。博通、美光科技、AMD、ASML 和英特尔跌幅约为5%。英伟达和 TSMC 跌幅接近3%。此前因 AI 行业扩张带来内存需求爆发预期而上涨的股票，跌幅尤其明显。 费城半导体指数走势与主要股指背离。后者在特朗普表示可能与伊朗对话，以及乌克兰和俄罗斯同意不袭击对方能源设施的报道传出后收窄跌幅。国际油价转跌，缓解了通胀担忧。半导体指