OpenAI的AGI竞赛是棘手的概念和契约

纽约，2024年3月16日（路透社Breakingviews）——想象一下一个极其成功的合作伙伴关系，一旦发生某件事就会解散。只是目前还不清楚这件事是什么，是否已经发生，甚至是否可能发生。这是OpenAI和微软（MSFT.O）面临的挑战，他们在考虑人工通用智能（AGI）可能到来的同时。由于双方协议的不透明性以及巨额资金的牵涉，几乎可以预见，理论上的辩论很可能会演变成合同纠纷。

所谓的AGI，是指自主系统能够匹敌或超越人类在智力任务上的能力。在硅谷，这既是一个雄心勃勃的目标，也是一个生存威胁。创建一个自我学习的系统，理论上可能带来从人类黄金时代到灭绝的各种结果。

路透社伊朗简报通讯会为您提供关于伊朗战争的最新动态和分析。请在此注册。

OpenAI成立于2015年，明确的目标就是此。Sam Altman、Ilya Sutskever、Elon Musk等人着手创建AGI，他们将其定义为“在大多数经济价值工作中表现优于人类的高度自主系统，为全人类谋福利”。按照“爱钱是邪恶之源”的理念，OpenAI成立之初是非营利组织。

然而，单靠自我和善意是不够的：AI竞赛还需要巨额的资金支持。因此，该公司在2019年成立了营利部门，并与微软建立了合作关系。这家软件巨头投资了10亿美元，并提供计算基础设施，以换取对OpenAI技术的访问。该创业公司坚持，一旦实现AGI，技术的排他性权利将归属于创业公司。

当时，这可能是一个容易让步的条件。然而，随着AI系统能力的迅速提升，定义AGI已不再是一个抽象的问题。根据斯坦福人本AI研究所的数据显示，在视觉推理、英语理解或竞赛级数学等方面，先进系统已超越普通人类的基准。

这也是概念辩论转变为合同争议的关键点。就像最高法院法官波特·斯图尔特对猥亵内容的主观描述——“我知道它是什么样的”——AGI的定义也模糊不清。谷歌的研究人员在2023年发表的一篇论文中指出，OpenAI的相关条款既不具体，也不易观察，试图为此类声明制定框架。

比如，达成的里程碑是系统能在经济价值工作中超越大多数人。这“多数人”意味着什么？没有在实际环境中部署，或者因法律或伦理原因放缓使用，是否还能衡量？此外，许多工作的经济价值难以界定。

与此同时，训练和部署AI模型需要大量资金。微软、字母表（GOOGL.O）、Meta平台（META.O）和甲骨文（ORCL.N）等公司，为应对这些需求大幅增加资本支出，计划今年投入超过7000亿美元。作为一家没有现有收入来源的创业公司，OpenAI需要支持。

微软最终投入了总计130亿美元。然而，这对OpenAI来说仍然不够，两家公司之间日益复杂的协议（其中多部分依赖于AGI条款）让双方都感到不满。

其他行业也吸取了教训：模糊的协议和巨额资金并不相容。以灾难债券为例，这类债券帮助公司转移飓风、洪水或疫情带来的财务风险。这些事件虽少见，但一场袭击迈阿密等大城市的风暴可能导致1.4万亿美元的赔付，足以让整个保险行业摇摇欲坠。因此，公司会引入愿意承担巨大但低概率风险的外部投资者，以换取支付。最初的不透明协议导致了激烈的争议，比如2008年一场飓风后，保险公司与债券持有人之间关于赔付范围的五年法律诉讼。

灾难债券后来趋向于采用更具体、易观察的触发条件，降低不确定性，避免争议。例如，测量某一地点的风速，而不是整体保险行业的损失或政府是否宣布进入紧急状态。

在生物技术合并中，企业使用或有支付来弥合买卖双方在评估试验药物时的差距。这些通常包含不可争辩的触发条件，比如美国食品药品监督管理局（FDA）是否在某个日期前批准了治疗方案。

OpenAI和微软后来达成了一种缓和状态，可能是因为长时间的谈判可能会让双方都吃亏。一份于去年底签署的新协议显示，任何OpenAI声称已实现AGI的声明都必须由一个独立委员会验证。

微软持有该公司27%的股份，最近估值为8400亿美元，并有权在2032年前使用部分技术，即使实现了AGI。Sam Altman的公司现在可以寻求合作或首次公开募股。不过，仍存在紧张因素。OpenAI将其约20%的收入上交给微软，如果实现AGI，这部分收入将基本消失。这一巨大的财务变动将对OpenAI的财务状况产生重大影响，尤其是在其准备向公众出售股票时。

关于如何定义AGI的争论尚未真正解决。去年底，Altman在一档播客中表示，虽然人们并未特别注意，也没有改变世界，但“我们确实建立了AGI”。微软CEO萨蒂亚·纳德拉似乎更关注其深远影响，他去年声称，AGI将成为“毫无意义的基准破解”，而真正的成功标志将是世界经济以令人难以置信的10%的速度增长。

辩论也在继续。即使是像Altman这样的AI倡导者也承认，AI在复杂推理和学习能力方面仍然表现不佳。他现在强调超级智能和AI系统能做人类做不到的事情，或者比人类更好地担任美国总统等职位。但这仍是一个模糊的定义。

Altman仍在追逐。OpenAI最近的1100亿美元融资中，亚马逊（AMZN.O）也作出了巨大贡献，据《信息》报道，这可能取决于公司是否上市或实现AGI。

在与CNBC的采访中，Altman表示，AI的进展仍然迅速，由于AGI是“近期目标”，公司不会停止达成目标后就不再进行新交易。这个时间表或许过于乐观，但如果如此，争议仍有时间和动力再次爆发。

关注Robert Cyran的Bluesky账号。

更多类似的洞察，请点击这里，免费试用Breakingviews。

编辑：Peter Thal Larsen；制作：Maya Nandhini