# DeepMind 负责人提议在发布前审查最先进的 AI 模型
Google DeepMind 负责人 Demis Hassabis 提议在美国建立一个标准机构，对在发布前对最强大的 AI 模型进行验证。根据他的评估，通用人工智能（AGI）可能会在“几年内”出现，其影响将与发现电力或用火相当。
https://t.co/PTeDiv1b6L — Demis Hassabis (@demishassabis) 2026 年 7 月 14 日
https://t.co/PTeDiv1b6L
— Demis Hassabis (@demishassabis) 2026 年 7 月 14 日
在 Hassabis 看来，AGI 指的是具备人类大脑全部认知能力的系统。他认为，这样的技术甚至不能与互联网或移动通信相提并论。
“当我们回头看未来几十年时，我认为我们会明白，我们正站在奇点的脚下——这不过是人类迎来新时代的开端，”Hassabis 写道。
DeepMind 负责人认为，AGI 能够加速药物研发、新的清洁能源来源以及先进材料的开发。同时，AI 的能力发展速度快于人们对其相关风险的理解，这是他指出的。
现有的先进模型已经在网络安全领域制造威胁。随着它们能力的增长，生物、核以及其他风险可能会进一步加剧。Hassabis 还警告称，将出现更具自主性的系统，能够执行复杂的行动序列，并递归地自我完善。要保持对它们的控制，需要额外的技术防护措施。
Hassabis 提议创建 Frontier AI Standards Body，并以 FINRA 为范本。新的结构可能以公私合营伙伴关系形式运作，或作为在联邦监管下的自律组织。它的资金主要应由 AI 产业来提供。
提议的领导层将包括独立的技术专家以及开源社区的代表。该机构将与美国联邦机构和国家实验室共同制定评估协议。
专门的测试应当用来确定某个模型是否属于先进类别。测试将覆盖网络安全、生物威胁以及其他高风险领域。单独的检查将识别模型试图绕过防护限制、误导用户或隐藏其行动。
第一阶段，公司将自愿在不迟于发布前 30 天提交先进模型接受审查。
在确认系统有效后，该程序可能会被写入法律。届时，先进模型在进入美国市场发布前必须成功通过评估。Hassabis 还提议建立独立审计员市场，并以美国体系作为未来国际标准的基础。
今年 6 月，美国总统唐纳德·特朗普签署了一项关于对先进 AI 模型的网络能力进行自愿审查的行政令。公司可以在将模型交付给外部可信合作伙伴之前，向当局提供最长达 30 天的相关访问权限。文件明确禁止将该机制解释为强制性许可或发布模型的事先批准。
在这篇文章本身，Hassabis 承认技术的进一步发展仍不确定，即便是专家之间也存在分歧。
此前媒体报道称，特朗普政府曾要求 OpenAI 不要立即将 GPT-5.6 以广泛范围发布，原因是与安全相关的担忧。OpenAI（萨姆·奥尔特曼领导）起初先向少数客户提供了该模型。
7 月，联合国秘书长安东尼奥·古特雷斯呼吁为先进 AI 系统制定通用规则，保护儿童免受聊天机器人风险，禁止致命的自主武器系统，并扩大发展中国家对计算资源的获取。
提醒一下，7 月在旧金山举行的游行活动参与者要求 OpenAI、Anthropic 和 Google DeepMind 协同暂停对更强大模型的训练。他们表示，将把释放出来的资源用于安全。
同月，前 OpenAI 研究员丹尼尔·科科泰洛（Daniel Kokotaylo）提出将 AI 竞赛放慢到 2040 年。
120.5万 热度
21万 热度
253.32万 热度
27.47万 热度
1.99亿 热度
DeepMind 首席提出在发布前对最先进的 AI 模型进行检验 - ForkLog
Google DeepMind 负责人 Demis Hassabis 提议在美国建立一个标准机构，对在发布前对最强大的 AI 模型进行验证。根据他的评估，通用人工智能（AGI）可能会在“几年内”出现，其影响将与发现电力或用火相当。
在 Hassabis 看来，AGI 指的是具备人类大脑全部认知能力的系统。他认为，这样的技术甚至不能与互联网或移动通信相提并论。
DeepMind 负责人认为，AGI 能够加速药物研发、新的清洁能源来源以及先进材料的开发。同时，AI 的能力发展速度快于人们对其相关风险的理解，这是他指出的。
现有的先进模型已经在网络安全领域制造威胁。随着它们能力的增长，生物、核以及其他风险可能会进一步加剧。Hassabis 还警告称，将出现更具自主性的系统，能够执行复杂的行动序列，并递归地自我完善。要保持对它们的控制，需要额外的技术防护措施。
新机构将界定先进模型
Hassabis 提议创建 Frontier AI Standards Body，并以 FINRA 为范本。新的结构可能以公私合营伙伴关系形式运作，或作为在联邦监管下的自律组织。它的资金主要应由 AI 产业来提供。
提议的领导层将包括独立的技术专家以及开源社区的代表。该机构将与美国联邦机构和国家实验室共同制定评估协议。
专门的测试应当用来确定某个模型是否属于先进类别。测试将覆盖网络安全、生物威胁以及其他高风险领域。单独的检查将识别模型试图绕过防护限制、误导用户或隐藏其行动。
审查可能会被强制化
第一阶段，公司将自愿在不迟于发布前 30 天提交先进模型接受审查。
在确认系统有效后，该程序可能会被写入法律。届时，先进模型在进入美国市场发布前必须成功通过评估。Hassabis 还提议建立独立审计员市场，并以美国体系作为未来国际标准的基础。
今年 6 月，美国总统唐纳德·特朗普签署了一项关于对先进 AI 模型的网络能力进行自愿审查的行政令。公司可以在将模型交付给外部可信合作伙伴之前，向当局提供最长达 30 天的相关访问权限。文件明确禁止将该机制解释为强制性许可或发布模型的事先批准。
在这篇文章本身，Hassabis 承认技术的进一步发展仍不确定，即便是专家之间也存在分歧。
此前媒体报道称，特朗普政府曾要求 OpenAI 不要立即将 GPT-5.6 以广泛范围发布，原因是与安全相关的担忧。OpenAI（萨姆·奥尔特曼领导）起初先向少数客户提供了该模型。
7 月，联合国秘书长安东尼奥·古特雷斯呼吁为先进 AI 系统制定通用规则，保护儿童免受聊天机器人风险，禁止致命的自主武器系统，并扩大发展中国家对计算资源的获取。
提醒一下，7 月在旧金山举行的游行活动参与者要求 OpenAI、Anthropic 和 Google DeepMind 协同暂停对更强大模型的训练。他们表示，将把释放出来的资源用于安全。
同月，前 OpenAI 研究员丹尼尔·科科泰洛（Daniel Kokotaylo）提出将 AI 竞赛放慢到 2040 年。