OpenAI 的 AGI 追逐是一個棘手的概念和契約

紐約，3月16日（路透社Breakingviews）— 想像一個極為成功的合作夥伴關係，一旦某件事發生就會解散。只是目前尚不清楚這件事是什麼，是否已經發生，甚至是否有可能發生。這是OpenAI與微軟（MSFT.O）面臨的挑戰，當他們思考人工通用智慧（AGI）可能到來時。由於他們協議的不透明，以及巨額資金的牽涉，使得理論上的辯論幾乎不可避免地會演變成合同糾紛。

所謂的AGI概念，是指自主系統能夠匹敵或超越人類在智力任務上的能力。在矽谷，這既是一個抱負目標，也是一個生存威脅。理論上，創造一個自我學習系統可能導致從人類的黃金時代到滅絕的各種結果。

路透社伊朗簡報通訊為您提供有關伊朗戰爭的最新發展與分析。點此訂閱。

OpenAI成立於2015年，明確的目標是此。Sam Altman、Ilya Sutskever、Elon Musk等人著手打造AGI，他們將其定義為“在大多數經濟價值工作中超越人類的高度自主系統，造福全人類”。與“愛錢是萬惡之源”的理念一致，OpenAI成立之初為非營利組織。

然而，僅靠自我與善意是不夠的：AI競賽還需要巨額資金。於是公司在2019年成立了營利部門，並與微軟建立合作關係。這家軟體巨頭投資了10億美元，並提供計算基礎設施，以換取對OpenAI技術的存取權。該初創公司堅持，一旦實現AGI，該技術的獨家權利將歸屬於初創公司。

當時這可能是個容易讓步的條件。然而，隨著AI系統能力迅速提升，定義AGI已不再是抽象問題。根據史丹佛人類中心AI研究所的數據，在視覺推理、英語理解或比賽級數學等方面，先進系統已超越普通人類的基準。

這裡，概念上的辯論轉變為合同上的問題。就像最高法院法官Potter Stewart對猥褻的主觀描述——“我知道它是什麼時，我就知道”——AGI的定義也很模糊。Google的研究人員指出，OpenAI的條款既不具體，也不易觀察，並在2023年發表的一篇論文中試圖建立此類聲明的框架。

例如，條款中提到，當系統能在經濟價值工作中超越大多數人類時，即視為達到里程碑。“大多數人”是指誰？如果不在現實世界中部署，或因法律或倫理原因放慢使用速度，是否能衡量？此外，許多工作的經濟價值也難以界定。

同時，訓練與部署AI模型需要大量資金。微軟、Alphabet（GOOGL.O）、Meta Platforms（META.O）和Oracle（ORCL.N）等公司已大幅增加資本支出，計劃今年花費超過7000億美元。作為一家沒有現有收入來源的初創公司，OpenAI需要支持。

微軟最終投入了總計130億美元，但這對OpenAI來說仍不夠，兩家公司之間日益複雜的協議（其中多個部分依賴於AGI條款）引發雙方不滿。

其他行業已經了解到模糊的協議與巨額資金並不相容。例如災難債券，幫助公司轉嫁颶風、洪水或疫情的金融風險。這些事件雖然罕見，但一場風暴襲擊像邁阿密這樣的大城市，可能造成1.4兆美元的損失，足以讓整個保險行業動搖。因此，公司會引入外部投資者，願意承擔巨大但低概率的風險，以換取支付。最初模糊的協議導致激烈的糾紛，例如2008年颶風後，保險公司與債券持有人之間就究竟涵蓋了什麼內容，進行了長達五年的法律爭鬥。

災難債券後來逐漸轉向更具體且易於觀察的觸發條件，降低不確定性，避免糾紛。例如測量特定地點的風速，而非整個保險行業的損失或政府是否宣布進入緊急狀態。

在生物科技合併中，企業使用或有支付來彌合買賣雙方在評估試驗藥物時的差距。這些通常包含不可爭議的觸發條件，比如美國食品藥品監督管理局（FDA）是否在某個日期前批准了該治療。

OpenAI與微軟之間已經達成某種緩和，可能是因為長時間的談判最終可能讓雙方都吃虧。一份於去年底簽署的新協議指出，任何OpenAI聲稱已達到AGI的說法，都必須由獨立委員會驗證。

微軟持有該公司27%的股份，最近估值為8400億美元，並有權在2032年前使用部分技術，即使已實現AGI。Sam Altman的公司現在可以追求合作或首次公開募股（IPO）。但仍存在緊張的理由。OpenAI將約20%的收入支付給微軟，若發生AGI，這部分收入將基本消失。如此巨大的財務變動，對OpenAI在準備公開募股時的財務狀況將產生重大影響。

關於如何定義AGI的爭論尚未真正解決。去年底，Altman在一個播客中表示，雖然沒有人真正注意到，也沒改變太多，但“我們建立了AGI”。微軟CEO Satya Nadella則更著重於其巨大影響，去年聲稱AGI將是“毫無意義的基準破解”，而真正的成功標準將是世界經濟以令人難以置信的10%增長。

辯論也已經轉移。即使是像Altman這樣的AI傳教士也承認，AI在某些方面仍表現不佳，比如複雜推理和學習能力。他現在推崇超級智能和AI系統能做人類做不到的事情，或比人類更擅長的工作，比如擔任美國總統。但這仍是一個模糊的定義。

Altman仍在追逐。OpenAI最近的1100億美元募資中，亞馬遜（AMZN.O）也作出了重大貢獻，據《資訊》報導，這可能取決於公司是否上市或實現AGI。

在與CNBC的訪談中，Altman表示AI的進展仍然迅速，因為AGI是“短期內的事情”，公司不會停止在達成後的任何新交易。這個時間表可能過於樂觀，但如果是這樣，糾紛仍有時間和動力再次爆發。

在Bluesky上關注Robert Cyran。

欲獲取更多類似見解，點此免費試用Breakingviews。

由Peter Thal Larsen編輯；Maya Nandhini製作

• 建議主題：
• Breakingviews

Breakingviews
路透社Breakingviews是全球領先的財經洞察來源。作為路透社的財經評論品牌，我們每天分析全球重大商業與經濟新聞。由約30名記者組成的國際團隊，分布於紐約、倫敦、香港等主要城市，提供即時專家分析。

立即註冊免費試用我們的完整服務，並在X @Breakingviews 及 www.breakingviews.com上關注我們。所有觀點均為作者之見。

分享

• X
• Facebook
• Linkedin
• 電子郵件
• 連結

購買授權權利

Robert Cyran

湯森路透

Robert Cyran是美國科技專欄作家，於2003年加入倫敦Breakingviews，四年後轉至紐約，持續報導全球科技、製藥及特殊情況。Robert在《福布斯》雜誌開始職業生涯，協助創立該雜誌的國際版。在加入Breakingviews之前，他曾擔任市場研究員和報導者，專注於製藥行業。Robert擁有伯明翰大學的經濟碩士學位和喬治華盛頓大學的本科学位。