上海交通大学教授 Lin Yun 长期研究 AI 与信息安全的交叉地带，他向 Knight 指出，短期内黑客确实占有优势，但新的防御手段、包括 AI 本身的反制应用，应该会在中长期扭转这个局面。更核心的问题在于标准：「如果不同国家对风险的理解是相似的，就更容易建立共同的安全原则与技术标准，」Yun 说，「关键是找到那些能降低系统性风险、又不会暴露敏感作业细节的共享领域。」
Lin Yun 也提出一个棘手的开放问题：产业如何保证开源模型持续更新、没有后门漏洞、并且符合安全标准？这个问题目前没有答案。
中国也在悄悄关门
一个不应被忽视的细节，来自 Will Knight 采访的匿名消息人士：一位中国顶尖 AI 公司的内部人士，因未获授权对媒体发言而要求匿名。他透露，安全顾虑已是部分先进模型不再对外开源的原因之一。
这是一个值得细读的信号。中国 AI 公司向来以开源姿态换取全球影响力，但如果连中国自己的头部玩家都开始对部分模型设限，那么开源与闭源的边界正在被重新定义，毕竟出口管制管的是算力流向，但模型能力的扩散是软性的、无国界的。当开源社群能够复现闭源模型九成的能力，当开放模型本身就能成为网络武器，任何单边管制都只是延缓而非阻止。
美中 AI 对抗白熱化，但两国学者共识一致：別让 AI 迎来「车諾比时刻」
WIRED 亲赴北京中关村 AI 年会，采访中美顶尖学者后的最大结论是：前沿 AI 的网络安全风险已大到任何一方都无法单独承担，开源模型的能力边界正逼近危险临界点。
（前情提要：Anthropic 遭美国政府「封杀」撤下 Fable 模型，外媒指三大隐忧：恐助攻中国开源）
（背景补充：Nvidia 推出最强开源模型 Nemotron 3 Ultra！专注 AI 代理任务）
本文目录
Toggle
WIRED 记者 Will Knight 亲赴北京智源人工智能研究院（BAAI）主办的这场会议，现场聚集了从递归自我改进、类人机器人到量子安全的各种议题，与会者包括公钥密码学联合发明人 Whitfield Diffie、以强化学习奠基研究获得图灵奖的 Andrew Barto。
Knight 在文中写道，他离开会场时只剩下一个念头：美中两国必须把 AI 竞赛的戾气放下来。原因不是外交辞令，而是技术现实：前沿 AI 的网络安全风险正在以超过任何一国政策能追赶的速度扩张。
一场 AI 军备竞赛，却催生出核威慑
华盛顿的标准框架，是把中国的 AI 进展视为经济与国安威胁。出口管制持续收紧，限制高阶芯片与制造装置流向中国；今年六月，美国政府更进一步，以国家安全为由，要求 Anthropic 停止让外国人士存取其最强的两款模型 Mythos 5 与 Fable 5。
Anthropic 随即对所有人关闭这两款模型，原因之一是当局担心 Fable 5 的防护机制遭到破解，进而解锁 Mythos 的网络攻击能力。
然而这场北京会议传达了一个截然不同的信号：开发速度过快、缺乏节制的 AI，对美中双方都是风险，而不是单方面的筹码。
MIT 计算机科学家 Stephen Casper 通过视频在会上发言，他引用的一篇研究显示，国际社会在 AI 风险上展开合作的收益，远大于合作本身带来的安全隐患。Casper 向 Knight 打了个比方：「几乎所有人在 AI 领域都能同意的一件事，是 AI 不需要一场切尔诺贝利时刻。」
他指出，这与冷战时期美苏在核武上的矛盾逻辑如出一辙，双方拼命扩充武器库，同时又不得不建立核危机管控机制。让他们最警惕的，正是越来越强的代理式 AI，一旦能力持续提升，稍有失控就可能造成大规模破坏。
开源模型的边界，正逼近危险临界点
如果说网络安全风险是理论层次的警示，那么开源模型的能力扩张，则是眼前看得见的地雷。
近几年，中国企业在开放权重模型领域走在前面：月之暗面的 Kimi、阿里巴巴的 Qwen、Z.ai 的 GLM，在美国研究社群都拥有大量用户。美国的反击则是 Nvidia 的 Nemotron，试图重建开源竞争力。
但专家对 GLM 5.2 的分析显示，Z.ai 最新一代模型已具备前沿等级的代理能力与程序撰写能力。下一个世代的开源模型，能力可能就与 Fable 或 Mythos 并驾齐驱。
上海交通大学教授 Lin Yun 长期研究 AI 与信息安全的交叉地带，他向 Knight 指出，短期内黑客确实占有优势，但新的防御手段、包括 AI 本身的反制应用，应该会在中长期扭转这个局面。更核心的问题在于标准：「如果不同国家对风险的理解是相似的，就更容易建立共同的安全原则与技术标准，」Yun 说，「关键是找到那些能降低系统性风险、又不会暴露敏感作业细节的共享领域。」
Lin Yun 也提出一个棘手的开放问题：产业如何保证开源模型持续更新、没有后门漏洞、并且符合安全标准？这个问题目前没有答案。
中国也在悄悄关门
一个不应被忽视的细节，来自 Will Knight 采访的匿名消息人士：一位中国顶尖 AI 公司的内部人士，因未获授权对媒体发言而要求匿名。他透露，安全顾虑已是部分先进模型不再对外开源的原因之一。
这是一个值得细读的信号。中国 AI 公司向来以开源姿态换取全球影响力，但如果连中国自己的头部玩家都开始对部分模型设限，那么开源与闭源的边界正在被重新定义，毕竟出口管制管的是算力流向，但模型能力的扩散是软性的、无国界的。当开源社群能够复现闭源模型九成的能力，当开放模型本身就能成为网络武器，任何单边管制都只是延缓而非阻止。
美中两国是当今最先进模型的主要来源，也因此是这场风险里责任最重的两方。Casper 说得直白：「AI 是一项全球技术，它带来全球性的利益，也带来全球性的伤害，而新能力最终扩散到全世界，是它一贯的倾向。」不管北京和华盛顿在出口管制上的角力还要持续多久，这道逻辑都不会消失。