但批评者警告,这种「只有我们掌控才安全」的思维存在严重的结构性缺陷。加州大学洛杉矶分校(UCLA)学者 Shazeda Ahmed 指出,这类组织极易陷入「自我强化信念」的循环,完全忽略自身权力过度集中的盲点。
即便执行长 Amodei 在近期文章中承认了「少数实验室垄断 AI 权力」的风险,但他提出的解方却是「仔细监督」与「公开承诺」,而非实质性地分散权力。《WIRED》在文末一针见血地总结:没有人真正知道 AI 将如何改变世界,但在 Anthropic 的理想主义外衣下,我们看到的只是一个深信自己最懂、并试图掌控所有发言权的科技巨兽。
以“安全”为名狂揽权力?解密 Anthropic 矛盾心理:只有我们称霸,世界才安全
据《WIRED》于 2026 年 6 月 25 日刊登的深度专文报道,由前 OpenAI 员工创立的 AI 巨头 Anthropic 正展现出极度矛盾的企业样貌。他们一边大声疾呼 AI 可能带来的大规模毁灭风险,另一边却积极扩张近 1 兆美元的庞大市值,甚至还接下了美国五角大厦的军事合约。面对外界质疑,Anthropic 内部坚信一条核心哲学:「只有我们取得绝对成功,才能确保 AI 的安全。」
(前情提要:Anthropic 指控阿里发动「史上最大克隆攻击」,狂刷 Claude 2,880 万次)
(背景补充:Anthropic 前研究员创办 Mirendil 募得 2 亿镁,号称「能自我升级的 AI」)
本文目录
Toggle
人工智能的发展是一场无可避免的狂奔,但在这条通往未知的道路上,谁才有资格掌握方向盘?《WIRED》最新刊出的一篇深度报道,犀利地剖析了知名 AI 新创 Anthropic 背后的「救世主情结」与企业矛盾。
自诩「好人」,坚信独揽大权是必要之恶
Anthropic 于 2021 年由一群对 OpenAI 执行长 Sam Altman 失去信心的前员工创立,并以「公共利益公司(Public Benefit Corporation)」的结构自居。然而,这家不断警告 AI 可能引发社会动荡甚至毁灭的企业,如今却积极追求近 1 兆美元的估值,并大力争取政治与军事影响力。
报道指出,Anthropic 内部运作基于两个极端自信的信念:首先,AI 是人类史上最具转型性的技术,其到来不可阻挡;其次,若要让世界变得更好,Anthropic 必须在 AI 竞赛中保持绝对领先。
前员工透露,公司内部经常自称为「好人(The good guys)」,并将 OpenAI、Meta 和 xAI 视为缺乏责任感的反面教材。执行长 Dario Amodei 在内部布道中一再强调,公司必须累积庞大的资本、算力与人才,才能产生足够的「引力」来引导整个产业走向安全。对他们而言,权力高度集中,是履行救世使命的「必要代价」。
军事合约惹争议,隐藏防护机制遭抨击
然而,这种「为达安全目的,不择手段地扩张」的策略,已在现实中频频触发道德红线。2024 年,Anthropic 与大数据巨头 Palantir 达成合作,为美国情报与国防机构提供 AI 服务。近期更传出,五角大厦在以色列与伊朗的冲突中使用了 Claude 模型,以协助识别打击目标。
面对可能导致无辜平民(如伊朗小学遭攻击致 120 死)伤亡的质疑,Amodei 仅冷静回应「不知情」,并强调只要「最终决策由人类做出」,就符合公司的安全政策。
此外,本月甫推出的 Claude Fable 5 模型也爆出重大争议。该模型内建了隐藏的防护机制:若侦测到研究人员违反条款并将其用于前沿 AI 开发(特别是针对外国对手),模型会「秘密破坏」其工作进度。此举引发业界对其越权的强烈抗议,最终迫使 Anthropic 撤回该暗门,并改为公开防护机制。
「只有我能解决」的盲点:缺乏制衡的危险
针对 Anthropic 的策略,前 OpenAI 董事、现任乔治城大学 CSET 执行长 Helen Toner 给出了一则生动比喻:AI 就像一座充满宝藏与怪物的森林,所有人都想冲进去。Anthropic 的做法是「自己先走得最深」,在谈判桌上占据主导权,然后再试图驯服怪物。
但批评者警告,这种「只有我们掌控才安全」的思维存在严重的结构性缺陷。加州大学洛杉矶分校(UCLA)学者 Shazeda Ahmed 指出,这类组织极易陷入「自我强化信念」的循环,完全忽略自身权力过度集中的盲点。
即便执行长 Amodei 在近期文章中承认了「少数实验室垄断 AI 权力」的风险,但他提出的解方却是「仔细监督」与「公开承诺」,而非实质性地分散权力。《WIRED》在文末一针见血地总结:没有人真正知道 AI 将如何改变世界,但在 Anthropic 的理想主义外衣下,我们看到的只是一个深信自己最懂、并试图掌控所有发言权的科技巨兽。