OpenAI 和 Anthropic 在網路安全審查期間，限制新的人工智慧模型僅提供給川普批准的客戶。

ChatGPT 製造商 OpenAI 週五表示，應總統唐納·川普政府的要求，將限制其最新人工智慧模型的發布，這是一項前所未有的政府對 AI 產品進行網路安全風險審查的最新舉措。

其主要競爭對手 Anthropic 幾小時後宣布，川普政府已批准有限度發布其最強大的網路安全模型，而兩週前美國商務部才有效禁止該模型。

兩家公司均表示，其最新模型將僅提供給少數經過信任的合作夥伴。OpenAI 表示，其名為 GPT-5.6 Sol 的新 AI 產品僅限於川普政府批准的客戶使用。

OpenAI 在一份聲明中表示：「我們不認為這種政府審查程序應成為長期的常態。」該公司稱，測試期只是「在未來幾週內更廣泛可用」的臨時步驟。

OpenAI 分批發布強大新 AI 系統的舉動，緊隨本月稍早政府對 Claude 聊天機器人製造商 Anthropic 採取的行動。Anthropic 在推出名為 Fable 5 和 Mythos 5 的兩個新 AI 模型僅數天後，便將其下線，以遵守川普禁止外籍人士使用這些模型的指令。政府週五解除了對其中一個模型 Mythos 5 的限制，使其能夠「重新部署給一小群網路防禦者和基礎設施提供者」，Anthropic 表示。

                        相關報導
                    
                

        
    
    
    
    







    
        

                
                    



    
        


  




    




    




    




    




    




    




    




    



    




    
    
    
    

    

    





    
        

            
            
            官員稱 Anthropic 的 Mythos 模型在美國政府機密系統中發現漏洞
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            2 分鐘閱讀
        

    
    
    
    







    

    

    

    

    




                
            

    
        

                
                    



    
        


  




    




    




    




    




    




    




    




    



    




    
    
    
    

    

    





    
        

            
            
            法國總統敦促美國分享尖端 AI，並呼籲民主國家合作監管
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            4 分鐘閱讀
        

    
    
    
    







    

    

    

    

    




                
            

    
        

                
                    



    
        


  




    




    




    




    




    




    




    




    



    




    
    
    
    

    

    





    
        

            
            
            SpaceX 以 600 億美元收購 AI 程式碼新創公司 Cursor，力圖在與 Anthropic 和 OpenAI 的競爭中取得優勢
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            1 分鐘閱讀

白宮週五表示，將繼續與前沿 AI 實驗室合作，應對這項快速成長技術在規模化方面的挑戰。

官員們的擔憂日益加劇，因為 Anthropic 今年稍早警告稱，其 Mythos 模型擅長以一種可能被惡意駭客武器化的方式發現軟體漏洞，並威脅全球關鍵電腦網路。

閱讀更多 

新的強大 AI 模型引發白宮審查

川普於 6 月稍早簽署了一項關於 AI 監管的行政命令，建立了一個聯邦政府框架，可在最先進 AI 系統公開發布前，最長 30 天內審查其國家安全風險。該命令稱 AI 開發者的參與是自願性的，但該框架尚未完全制定。

部分川普盟友將加強政府審查的必要性歸咎於總部位於舊金山的 Anthropic 及其執行長 Dario Amodei。

「Dario 幾個月前，也就是四月份來到華盛頓，基本上說他創造了一種名為 Mythos 的網路武器，」投資者 David Sacks（與他人共同領導川普的科技與科學顧問委員會）在最近的一個播客中表示。「他提高了大家的皮質醇水平，讓每個人都非常擔憂。就這個模型擁有先進網路能力而言，這確實有些道理。」

同樣總部位於舊金山的 OpenAI 表示，其新 Sol 模型（發音為『SOHL』，類似西班牙語中太陽的詞）「在幫助人們發現和修復漏洞方面」比執行網路攻擊更擅長，並且未超過公司自身的風險門檻。但它承認可能存在不可預見的風險，特別是當其模型與其他工具結合使用時。

**訂閱 Morning Wire：**
我們的旗艦通訊摘要每日最大頭條新聞。








  

    電子郵件地址
    
  

  
    訂閱
  




  
    
    
      勾選此框即表示您同意美聯社的
      使用條款
      ，並承認美聯社可能根據我們的
      隱私政策
      收集和使用您的資料。

「這種不確定性，加上模型能力的重大飛躍，正是我們將模型增強的能力與更強的安全措施及分階段發布相結合的原因，」該公司週五表示。

OpenAI 尚未公布迄今已獲准使用新模型的大約 20 家客戶中的任何一家。

批評者警告：不可預測的政府干預可能阻礙美國公司發展

美國眾議員 Lori Trahan（麻薩諸塞州民主黨人，兩黨 AI 監管法案的共同起草人）在一份聲明中表示，她擔心「川普政府正在逐家公司決定誰能使用最新的 AI 模型。沒有法律。沒有程序。沒有監督。只有華盛頓的任命官員決定誰能加入，誰被排除在外。」

一個廣泛的技術專家團體也批評了導致 Anthropic 關閉 Fable 的政府行動，該公司曾將 Fable 宣傳為 Mythos 的更安全版本。即使政府在週五解除了對更強大的 Mythos 的限制，Fable 至今已無法使用兩週。

「我只想說，網路安全產業幾乎沒有人認為這項行動有任何事實依據，」史丹佛大學網路安全專家 Alex Stamos 在本週稍早與記者的電話會議上表示。

Stamos 是 AI 安全公司 Corridor 的首席產品官，也是 Facebook 母公司 Meta 的前首席安全官。他表示，他審查了 Anthropic 的主要雲端運算合作夥伴 Amazon 對 Fable 研究的分析，但並未發現任何其他公開可用的 AI 模型（包括中國製造的模型）中不存在的風險。

「如果政府誠心希望美國在這場競賽中擊敗中國，那麼這大概是他們能做出的最愚蠢的事，」Stamos 說。

監管升級，AI 公司紛紛邁向 IPO

OpenAI 執行長 Sam Altman 於週三與美國商務部長 Howard Lutnick 討論了模型發布事宜，這是 AI 產業高層與川普官員在最近幾週一系列談判的一部分。

Anthropic 也參與了這些談判，但 Amodei 與川普政府的關係更為緊張。五角大廈曾將 Anthropic 視為國家安全風險，因為其對 AI 在戰爭中的使用提出了道德與安全擔憂，而川普本人更下令聯邦機構停止使用 Claude。Anthropic 隨後提起訴訟，該案仍在聯邦法院審理中。

Anthropic 週五表示，對 Mythos 在週五稍晚獲得部分發布感到「欣慰」，並將「繼續與政府合作擴大使用權限」，並讓 Fable 重新對一般用戶開放。Lutnick 在週五致 Anthropic 的一封信中表示，該公司為解決政府擔憂所做的努力「取得了重大進展」。

政府加強 AI 監管，為 OpenAI 以及 Anthropic 計劃在華爾街上市的前瞻性行動增添了另一層複雜性，此前 SpaceX 在 6 月 12 日創紀錄的首次公開募股。

川普曾提出美國政府持有領先 AI 公司股份的可能性，描述了一個「部分股份可以給予美國公眾，讓美國公眾基本上成為公司的合作夥伴」的概念。

—-

美聯社記者 Jonathan J. Cooper 對本報導有貢獻。