Anthropic共创示警:软体奇点5成概率到来,白领、蓝领都可能被冲击?

Anthropic高层访问台湾,强调“没有台湾,就没有其近1兆美元估值的发展”。共同创办人也发出警示:未来有5成机率迎来軟體奇點,知识工作者将首当其冲面临失业。

在Computex期间,估值已逼近1兆美元的美国AI公司Anthropic也正走在IPO的路上,进一步深化与台湾的合作关系。

紧接着,趋势科技获邀加入资安计划「Glasswing」的消息传出。Anthropic共同创办人Ben Mann在6月5日的活动上高喊「没有台湾、没有Anthropic」,并用中文发表完整开场致词,展现亲和力。

在台湾人工智慧学校(AIA)主办的Developer Day上,Mann用中文表示,自己投入AI研发工作的使命,是确保人工智慧可以为人类的未来带来正面影响。他坚信,民主国家应在AI发展上领先,并期待深化与台湾的合作关系。

Ben Mann在2021年与Dario Amodei共同创立Anthropic之前,曾在Google服务6年;在阅读《超智慧》(Superintelligence)一书后,转向AI安全性研究。

Mann曾是OpenAI GPT-3核心架构成员,也是MCP(Model Context Protocol)的重要推动者。目前他主导Anthropic内部专注应用实验的部门「Anthropic Labs」,而该团队孵育出了Claude Code与Claude Design。

AI迈向軟體奇點,大规模失业已避不了?

Mann在谈到Mythos等级模型的能力时指出,模型在程式能力上突飞猛进,将使更多人能够自己以安全方式打造软件应用。「过去从事这些工作的软件工程师,他们何去何从?我认为这是一个更大的问题。」

比起AI是否能像人类那样思考,Mann更关注AI在经济与社会层面会带来多大的实质变革。他曾提出“经济图灵测试(Economic Turing Test)”的概念,作为衡量经济产出的工具:如果把工作外包给一个AI代理人,而雇主分辨不出成果来自机器还是人类,那么它就通过了这份工作的经济图灵测试。

图源:数位时代,侯俊伟摄影Anthropic共同创办人暨Anthropic Labs负责人Ben Mann来台

Mann非常肯定,未来几年内有5成机率迎来软件领域的奇点。到时,控制机器人的问题也可以被解决。因此,首先是知识工作者,其次是体力劳动者,都会面临就业市场冲击

Mann表示,当前的经济指标数据并没有暗示大规模失业即将来临,「但这其实符合我们的预期」。他解释,要驱动大规模失业,AI必须做到人类能做的每一件事,而AI目前还没达到这样的水准。

然而,模型训练的进展并没有放缓迹象。Mann举例说,就像大多数人无法仅凭观察指标预测到2008年的金融危机那样,「我认为,我们将迎来一段颠簸的旅程。」

Mann的看法并非业界共识。辉达执行长黄仁勳一向对AI影响抱持较正面的态度,认为AI还有可能创造更多工作机会。曾在2025年喊出「白领阶级大屠杀」的Anthropic执行长Amodei,近期也稍微软化了公开立场,指向工作面临转型而非消失。

Mann认为,要在缺乏政府介入的情况下解决大规模失业问题,难度很高。Anthropic也有与政府合作、讨论;他期盼台湾可以「比世界上某些政府动得更快」。

拜登政府科技国安政策操盘手一同访台,携手确保民主联盟领先AI竞赛

随Mann一同访台的,还有Anthropic国家安全政策主管Tarun Chhabra。他曾是拜登政府科技国安政策的核心人物:从美国对中国的出口管制、出/入境投资审查到资通通讯技术限制,背后都有Chhabra的运筹帷幄。

在白宫任内,建构民主科技同盟是Chhabra的另一项重点。他曾与五眼联盟(Five Eyes)、日本、韩国、印度以及欧盟进行科技外交,致力于把国际盟友拉入美国的科技标准防线中。

图源:数位时代,侯俊伟摄影Anthropic国家安全政策主管Tarun Chhabra与数位发展部杨佳玲次长、台湾AICoE计划办公室许永真教授对谈。

在这样的背景下,此番Anthropic高层访台的战略意义远超开发者交流,更凸显出鲜明的台美科技与供应链合作伙伴关系。

Mann在对谈中直言,民主联盟应防堵中国在AI竞赛中胜出。即使民主阵营抢先达阵超智慧,也不可松懈,因为其他国家的研发仍会持续进展。他表示,「Anthropic一直试图利用我们的领先地位,为提升安全性树立强而有力的先例。」

他举例,Anthropic曾在发布新模型之前,对模型能力是否可能加速生化武器研发进行测试。结果有一个样本出现显著提升,因此公司延后模型发布;在强化防护措施后才最终释出。

这样的政策方针,也可见于最新的Mythos模型。Mythos挖掘软件安全漏洞的能力超越大多数人类,Anthropic因此启动「Project Glasswing」,仅将预览版释出给少数经验证的合作伙伴,以提前强化安全防御能力。

Mann表示,公司理解延迟发布前沿模型,虽然能降低被恶意滥用的风险,但也延迟了模型可被善用的效益落地。包括让更多资安防御者强化自身安全防护、加速药物研发来拯救重病患者,「我们确实感受到延迟发布的代价」。不过,安全保障依然是前提。

「在Anthropic,我们深刻思考这些风险。」Mann表示,「随着技术越来越强大,我们如何确保那些不具备与台湾相同价值观的国家,能够负责任地使用这项技术?」

如果超智慧这么危险,为什么还要开发?Chhabra在对谈中给出答案:「如果Anthropic不开发这个模型,我们的竞争对手也会开发。」为避免超智慧先被恶意行为者滥用,Anthropic必须领先制定安全标准,「我们是在和时间赛跑。」

呼应Mann的发言,Chhabra在对谈中重申:如果没有台湾供应链,就没有Anthropic。民主国家要在AI竞争中胜出,「共同确保这条供应链的安全是绝对关键且必要的。」

Chhabra也指出,台湾往往是最早面临先进网络攻击的地方,而这样的攻击手法对盟友同样极具价值。他期待透过伙伴关系,台美能够为所有民主盟友展示强大的韧性,以及坚实的供应链。

  • 本文经授权转载自:《数位时代》
  • 原文标题:《Anthropic共同创办人来台示警:「軟體奇點」五成机率到来,知识工作者首当其冲》
  • 原文作者:傅莞淇
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论