Anthropic、独立したAI安全性評価のためMETRの研究者に従業員と同等のアクセス権を付与
Anthropicは木曜日のブログ投稿で、最先端AIモデルを評価する非営利団体METRの6人の研究者に、従業員と同等のアクセス権を付与したと発表した。これにより、研究者はAnthropicのモデル、安全対策、リスク管理を独立して評価できる。METRの研究者には、Anthropicのリスク評価チームが使用するものと同等の社用ノートパソコンやオフィススペース、社内ツールへのアクセスが提供された。重要なのは、METRがAnthropicの承認なしに評価結果を公表できる点だ。一方、Anthropicは、顧客データ、弁護士・依頼者間秘匿特権の対象となる情報、モデルアーキテクチャの詳細については、削除を求めることができる。METRはAnthropicの3層構成の評価者制度の最上位に位置しており、独立した監督に対する同社の取り組みを示している。これは、AnthropicのCEOであるDario Amodeiが9月に提案した慣行であり、その後、OpenAI、グーグル、メタ、エヌビディア、xAIも導入を約束している。
1分前