Khanna 提出一项禁止递归技术的 AI 安全法案
众议员 Ro Khanna 将提出一项人工智能监管法案,在政府建立安全护栏之前,禁止递归式自我改进的人工智能。该法案名为《人工智能人类控制法案》,出台之际,行业顶级高管警告称,这项技术可能变得无法控制。尽管人工智能在经济中的作用日益增强,且可能带来灾难性风险,但国会基本上一直避免对其进行监管。Khanna 周一接受 CNBC 采访时表示,这项技术带来了文明灭绝和失去控制的风险。随着 OpenAI、Anthropic、Google DeepMind 和 xAI 等公司开发越来越先进的模型,该提案回应了行业日益加剧的安全担忧。 法案建立全面的人工智能安全框架 该法案将禁止递归式自我改进的模型,以及能够自主修改自身核心目标、遏制措施或关闭控制机制的模型,直至联邦安全护栏建立且相关机构批准此类活动。一个新的联邦机构将负责监管 OpenAI、Anthropic、Google DeepMind 和 xAI 的人工智能模型。该机构将制定安全法规和模型训练与部署许可制度,开展前沿人工智能模型审计,并制定持续测试和有效人类控制的安全标准。独立审计员将进驻每个前沿实验室,并直接向该机构报告。该机构将制定相
GOOGL0.31%
Oliver Grant·09-28 21:54
