據 CNBC 報導,隨著主要人工智慧實驗室開始應對安全問題,獨立的人工智慧安全評估機構正嶄露頭角。Anthropic 執行長達里奧·阿莫迪在 9 月承諾,將來自 METR、阿波羅研究和埃森哲等組織的第三方評估者嵌入其公司內部,此舉迅速獲得 OpenAI 執行長山姆·阿爾特曼和總統川普的支持。
評估機構生態系統大多由小型非營利組織組成,並已快速成長。METR 在過去六個月內籌集了約 7100 萬美元的資金承諾,而 2024 年的捐款總額為 1360 萬美元。然而,結構性挑戰依然存在:這些機構的規模遠小於它們所評估的人工智慧實驗室,因而產生潛在的利益衝突。專家警告,若缺乏強而有力的政府監管或多元的資金來源,評估機構可能為了維持與大型人工智慧公司的業務關係,而面臨以「橡皮圖章」方式批准的壓力。