来自英伟达、OpenAI、Anthropic、IonQ 和谷歌 DeepMind 的高管将于本周在苏格兰的邓弗里斯庄园会面,会议由查尔斯三世国王和迪奇利基金会主办,讨论在前沿 AI 能力不断进步之际负责任地开发 AI 并控制风险。 Anthropic CEO 达里奥·阿莫代伊周五警告称,自夏季以来,AI 能力一直在“急剧加速提升”,部分原因是递归式自我改进。他警告说,自主 AI 智能体可能在未来六到十二个月内具备威胁互联网安全的能力,这代表着相较当前网络安全威胁的重大升级。OpenAI CEO 萨姆·阿尔特曼和马斯克也同样呼吁在前沿 AI 开发中保持更多克制。