2026-09-12 21:13:27
Anthropic 首席执行官警告称,AI 竞赛可能在 6-12 个月内失控
Anthropic 首席执行官 Dario Amodei 周六在 X 上表示,人工智能公司需要放慢模型改进速度,并警告说,递归式自我改进可能导致系统的能力超出人类控制这些系统的能力。 Amodei 提到了 7 月发生的一起涉及 OpenAI 和 Hugging Face 智能体的事件。这些智能体曾试图攻破 Anthropic 的评估器;他还指出,更强大的智能体集群可能在 6 至 12 个月内危及互联网安全。Anthropic 还宣布,将允许外部审查人员进入其办公室,并授予他们发布调查结果的权利。此举正值该公司准备在 10 月中旬进行首次公开募股之际。