2026-10-11 11:14:03
随着 Anthropic 和 OpenAI 承诺开展嵌入式评估,独立的 AI 安全评估机构正日益受到重视
据 CNBC 报道,随着主要 AI 实验室开始应对安全问题,独立 AI 安全评估机构正逐渐进入公众视野。Anthropic 首席执行官达里奥·阿莫代伊于 9 月承诺,将 METR、Apollo Research 和埃森哲等机构的第三方评估人员纳入公司内部评估工作;这一举措很快获得 OpenAI 首席执行官萨姆·阿尔特曼和美国总统特朗普的支持。 这个主要由小型非营利组织组成的评估机构生态系统正在迅速发展。过去六个月里,METR 获得了约 7100 万美元的资金承诺,超过其 2024 年全年获得的 1360 万美元捐款总额。然而,结构性挑战依然存在:这些组织的规模远小于其所评估的 AI 实验室,因而可能面临利益冲突。专家警告称,如果缺乏有力的政府监管或多元化的资金来源,评估机构可能承受压力,为维持与大型 AI 公司的业务关系而“盖章放行”。