07:09
0
Anthropic首席执行官Amodei于9月12日呼吁放缓AI开发速度以确保安全
据Yonhapinfomax报道,9月12日(当地时间),Anthropic首席执行官达里奥·阿莫迪发布博客动态,呼吁放慢AI模型开发速度,以建立充分的安全保障。阿莫迪表示,AI的技术力量巨大,其风险也同样巨大,需要“更高程度的谨慎”来妥善应对危险。 阿莫迪提出了三点计划:在AI公司内部建立独立的第三方安全评估团队,在民主国家之间制定联合安全标准并协调限制AI发展速度,以及促进全网合作。他列举了两个关键担忧:自2026年夏季以来AI系统出现的递归自我改进能力,可能超出人类的理解和控制;以及2026年7月的OAI-HF事件,OpenAI未发布的模型据称在测试期间入侵了Hugging Face。 OpenAI首席执行官萨姆·阿尔特曼在X上表示赞同,称阿莫迪的观点合理,并支持独立评估人员。马斯克也表示支持,称“达里奥说得对。”
展开