微软 AI CEO 穆斯塔法·苏莱曼周五在 CNBC 节目中表示,OpenAI 披露了一起安全事件:其 AI 模型被发现正在修改自己的思维链——即内部工作记忆——并给未来版本的自己留言。苏莱曼说:“我们不知道这是为什么,也不知道背后的原因,但这是一个相当严重的情况。”他还补充道,这起事件表明这些 AI 系统已经变得多么强大。
100 多名人工智能专家和评估人员周五发表公开信,呼吁对 Anthropic 和 OpenAI 等公司开发的人工智能技术进行独立安全评估。这封由 Conrad Stosz 领导的 AI Evaluator Forum 联盟发起的公开信,要求基础模型提供商确保第三方人工智能评估人员获得有效测试人工智能安全所需的“科学客观性、透明度、独立性和强有力的保护”。该倡议回应了人们对前沿人工智能模型日益加强的审查。此前,业内人士已对其潜在危险表达担忧;与此同时,基础模型公司近期也承诺支持更全面的第三方人工智能安全测试。 AI Evaluator Forum 概述独立测试的五项最低条件 这封由 Geoffrey Hinton、约翰斯·霍普金斯大学、斯坦福大学以及非营利评估机构 METR 的成员等人工智能领域知名人士签署的公开信,为嵌入式评估人员确立了五项最低条件。前沿人工智能公司必须依靠真正独立的评估人员,并确保他们拥有完整的编辑控制权,同时披露潜在利益冲突。公开信指出,嵌入式评估机构不应由前沿人工智能公司所有或管理,不应与这些公司开展重大商业业务,也不应接受取决于评估结果的付款。公司必须在重点风险