Антропик совместное предупреждение: вероятность наступления программного сингулярности 50%, белые и синие воротнички могут быть подвержены воздействию?

Anthropic 高层访台,强调没有台湾就没有其近 1 兆美元估值的发展。共同创办人更示警,未来有 5 成概率迎来软件奇点,知识工作者将首当其冲面临失业。

在Computex期间,估值已逼近一兆美元的美国AI公司Anthropic也在前进IPO的路上,深化与台湾的合作关系。

紧接着趋势科技获邀加入资安计划「Glasswing」的消息,Anthropic共同创办人Ben Mann在6月5日活动上喊出「没有台湾、没有Anthropic」,还用中文发表完整开场致词,展示亲和力。

在台湾人工智慧学校(AIA)主办的Developer Day上,Mann用中文表示,自己投身AI研发工作的使命,是确保人工智慧可以为人类的未来带来正面影响。他坚信,民主国家应在AI发展上领先,期待深化与台湾的合作关系。

Ben Mann在2021年与Dario Amodei创立Anthropic前,曾在Google服务六年,在阅读了《超智慧》(Superintelligence)一书后,转向AI安全性研究。

Mann曾是OpenAI GPT-3核心架构成员,也是 MCP(Model Context Protocol)的重要推手。目前主导Anthropic内专注应用实验的部门「Anthropic Labs」,这支孵育出Claude Code与Claude Design的团队。

AI迈向软件奇点,大规模失业已避不了?

Mann在论及Mythos等级的模型能力时,指出模型突发猛进的程式能力,将使得更多人可以自己安全地打造出软件应用。「过去从事这些工作的软件工程师,他们何去何从?我认为这是一个更大的问题。」

比起AI是否能像人类那样思考,Mann更加关注AI在经济与社会层面实质造成多大的变革。他曾提出「经济图灵测试(Economic Turing Test)」的概念,作为衡量经济产出的工具:如果把工作外包给一个AI代理人,而雇主分辨不出成果来自机器还是人类,那它就通过了这份工作的经济图灵测试。

图源:数位时代,侯俊伟摄影Anthropic共同创办人暨Anthropic Labs负责人Ben Mann来台

Mann相当肯定,未来几年内有5成概率迎来软件领域的奇点。到时候,控制机器人的问题也可以被解决。因此,首先是知识工作者,其次是体力劳动者,都会面临就业市场冲击

Mann表示,当前的经济指标数据没有暗示大规模失业即将来临,「但这其实符合我们的预期。」他解释,要驱动大规模失业,AI必须能做到人类能做的每一件事,而AI目前还没达到这样的水平。

然而,模型训练的进展并没有放缓的迹象。Mann举例,就像大多数人没有能通过观察指标,预测到2008年的金融危机那样,「我认为,我们将迎来一段颠簸的旅程。」

Mann的看法并非业界共识。英伟达执行长黄仁勋一向对AI影响抱持较正面的态度,认为AI还有可能创造更多工作机会。曾在2025年喊出「白领阶级大屠杀」的Anthropic执行长Amodei,近期也稍微软化公开立场,指向工作面临转型而非消失。

Mann认为,大规模的失业问题,很难在缺乏政府介入的情况下获得解决。Anthropic也有与政府合作、讨论,他期盼台湾可以「比世界上某些政府动得更快」。

拜登政府科技国安政策操盘手一同访台,携手确保民主联盟领先AI竞赛

此次随Mann来台的,还有Anthropic国家安全政策主管 Tarun Chhabra。他曾是拜登政府科技国安政策的核心人物,从美国对中国的出口管制、出/入境投资审查到资通讯技术限制,背后都有Chhabra的运筹帷幄。

在白宫期间,建构民主科技同盟是Chhabra的另一项重点。他曾与五眼联盟(Five Eyes)、日本、韩国、印度及欧盟进行科技外交,致力于将国际盟友拉入美国的科技标准防线中。

图源:数位时代,侯俊伟摄影Anthropic国家安全政策主管Tarun Chhabra与数位发展部杨佳玲次长、台湾AICoE计划办公室许永真教授对谈。

这层背景,让此次Anthropic高层访台的战略意义远超过开发者交流,更具有鲜明的台美科技与供应链合作伙伴关系。

Mann在对谈中直言,民主联盟应防堵中国胜出AI竞赛。即使民主阵营抢先达阵超智慧也不可松懈,因为其他国家的研发仍会持续进行。他表示,「Anthropic一直试图利用我们的领先地位,为提升安全性树立强而有力的先例。」

他举例,Anthropic曾在发布新模型之前,对模型能力是否能加速生化武器研发进行测试。结果有一个样本出现显著的提升,公司因此延后模型发布,强化防护措施后才释出。

这样的政策方针,也可见于最新的Mythos模型上。Mythos发掘软件安全漏洞的能力超越大多数人类,Anthropic因此启动「Project Glasswing」,仅将预览版释放给少数验证过的合作伙伴,提前强化安全防御能力。

Mann表示,公司理解延迟发布前沿模型,虽能降低被恶意滥用的风险,但也延迟了模型可被善用的效益落地。包括让更多资安防御者强化自己的安全防护、加速药物研发来拯救重病患者,「我们真实地感受到延迟发布的代价。」但安全保障依然是前提。

「在Anthropic,我们深刻思考着这些风险。」Mann表示,「随着技术越来越强大,我们如何确保那些不具备与台湾美相同价值观的国家,能负责任地使用这项技术?」

如果超智慧这么危险,为什么还要开发?Chhabra在对谈中给了一种答案:「如果Anthropic 不开发这个模型,我们的竞争对手也会开发。」为了避免超智慧先被恶意行为者滥用,Anthropic 必须领先地制定安全标准,「我们是在跟时间赛跑。」

呼应Mann的发言,Chhabra在对谈中重申,如果没有台湾供应链,就没有Anthropic。民主国家要在AI竞争中胜出,「共同确保这个供应链的安全是绝对关键且必要的。」

Chhabra也指出,台湾时常是最早面临先进网络攻击的地方,这样的攻击手法对盟友来说也是极具价值的资讯。他期待,通过伙伴关系,台美可以为所有民主盟友展示强大的韧性,以及坚实的供应链。

  • 本文经授权转载自:《数位时代》
  • 原文标题:《Anthropic共同创办人来台示警:「软件奇点」五成机率到来,知识工作者首当其冲》
  • 原文作者:傅莞淇
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено