2026-10-11 11:14:03
AnthropicとOpenAIが組み込み型評価に取り組む中、独立したAI安全性評価者が注目を集める
CNBCによると、大手AI研究所が安全性に関する懸念への対応を進める中、独立系のAI安全性評価機関が注目を集めている。AnthropicのCEOであるDario Amodei氏は9月、METR、Apollo Research、Accentureなどの組織からサードパーティの評価担当者を自社内に置くと表明した。この動きは、OpenAIのCEOであるSam Altman氏とDonald Trump大統領からも直ちに支持された。 評価機関のエコシステムは、主に小規模な非営利団体で構成されており、急速に拡大している。METRは過去6か月間で約7,100万ドルの資金調達コミットメントを獲得した。これは、2024年通年の寄付額1,360万ドルから大幅に増加している。しかし、構造的な課題は残っている。これらの組織は、評価対象となるAI研究所よりはるかに規模が小さく、潜在的な利益相反を生み出している。専門家は、政府による強力な監督や多様な資金源がなければ、評価機関は大手AI企業との取引関係を維持するため、承認を「形式的に追認」するよう圧力を受ける可能性があると警告している。