2026-10-11 11:14:03
獨立 AI 安全評估機構日益受到重視,Anthropic、OpenAI 承諾納入內嵌式評估
據 CNBC 報導,隨著主要 AI 實驗室著手處理安全疑慮,獨立 AI 安全評估機構正逐漸受到關注。Anthropic 執行長 Dario Amodei 於 9 月承諾,將讓 METR、Apollo Research 和 Accenture 等組織的第三方評估人員進駐其公司,此舉很快獲得 OpenAI 執行長山姆·阿爾特曼及總統川普的支持。 評估機構生態系主要由小型非營利組織組成,近來快速成長。METR 在過去六個月獲得約 7100 萬美元的資金承諾,高於 2024 年全年的 1360 萬美元捐款總額。然而,結構性挑戰依然存在:這些組織的規模遠小於其評估的 AI 實驗室,可能造成利益衝突。專家警告,若沒有健全的政府監督或多元化的資金來源,評估機構可能面臨壓力,為了維持與大型 AI 公司的商業關係而「蓋章放行」。