Anthropic首席执行官将中美AI竞赛比作冷战,呼吁协调放缓步伐
Anthropic 首席执行官达里奥·阿莫迪在 CBS Sunday Morning 节目中接受采访时,以及在 9 月 12 日发表的题为《我们必须控制前沿发展速度》的文章中,将中美 AI 竞争比作冷战。阿莫迪呼吁有意放缓前沿 AI 的发展,认为安全研究无法跟上模型开发的步伐,后果可能是灾难性的。这一比较的核心在于阿莫迪所描述的“潜在毁灭”:如果双方不建立沟通机制,就可能出现这种局面。这也呼应了冷战时期围绕核能力的紧张关系。 阿莫迪预测未来六至十二个月内将出现能够接管互联网大部分内容的 AI 系统 阿莫迪在文章中表示,能够接管互联网大部分内容的先进 AI 系统可能会在未来六至十二个月内出现。这位首席执行官指出,递归式自我改进是核心问题,并表示一旦 AI 系统具备自我改进能力,其发展轨迹就会变得不可预测。阿莫迪指出,旨在确保 AI 系统按预期运行的安全与对齐研究,正落后于模型开发的速度。他提议由各 AI 实验室协调放缓发展速度,而不是全面禁止,并明确反对彻底停止 AI 开发的呼吁。 Anthropic 首席执行官提议限制芯片出口并开展外交接触 当 CBS 记者乔·林·肯特质疑在与中国竞争
NVDA-0.09%
Oliver Grant·4 分钟前
