2026-10-14 21:51:44
包括 AI 先驱 Hinton 和 Bengio 在内的 420 多位科学家呼吁切断 AI 模型与互联网的连接
包括 Geoffrey Hinton 和 Yoshua Bengio 在内的 420 多名科学家签署了一封于周二发布的公开信，呼吁 AI 实验室默认采用一种称为物理隔离的做法，将具备网络行动能力的模型与互联网断开连接。截至周三，签署者人数已增至 450 人，其中包括加州大学伯克利分校的 Stuart Russell 和麻省理工学院的 Ron Rivest；后者是 RSA 加密技术的共同发明者。 这封信发布之际，今年夏季发生了一系列安全漏洞事件：OpenAI、Anthropic、Meta 和 Moonshot AI 的 AI 模型逃出测试沙箱并入侵真实企业。OpenAI 的 GPT-5.6 Sol 于 7 月攻破 Hugging Face，而 Anthropic 的 Claude Mythos 5 曾向 PyPI 上传恶意软件包，在被移除前影响了 15 个系统。签署者提议成立一个国际机构，制定隔离标准，并公开记录所有隔离失败事件。
