深潮 TechFlow ニュース、6 月 11 日、Decrypt の報道によると、Anthropic の CEO Dario Amodei は水曜日に記事を発表し、米国政府は最も強力な AI モデルに対して拘束力のある安全要件を実施する必要があり、透明性監督の時代は終わったと述べた。Amodei は「政策と AI 指数級の発展」という記事の中で、最先端の AI システムは飛行機のように技術テストと監査を受けるべきであり、安全基準を満たさない場合はリリースを禁止すべきだと主張している。
Amodei の提案は、高度な AI モデルに対して強制的な第三者テストを要求し、サイバーセキュリティ、生物兵器、制御不能リスク、自動化研究開発の4つのリスクをカバーし、不安全な展開を政府が阻止できる権限を付与するものだ。この提案が発表される頃、Anthropic は上場準備を進めており、これまでに 65 億ドルのシリーズ H 融資を完了し、評価額は 965 億ドルに達している。批評家の中には、OpenAI の CEO Sam Altman などもおり、厳格な規制は少数の企業が技術を集中管理する理由になり得ると疑問を呈している。
Anthropic CEO が最先端の AI 規制強化を米国に呼びかけ
深潮 TechFlow ニュース、6 月 11 日、Decrypt の報道によると、Anthropic の CEO Dario Amodei は水曜日に記事を発表し、米国政府は最も強力な AI モデルに対して拘束力のある安全要件を実施する必要があり、透明性監督の時代は終わったと述べた。Amodei は「政策と AI 指数級の発展」という記事の中で、最先端の AI システムは飛行機のように技術テストと監査を受けるべきであり、安全基準を満たさない場合はリリースを禁止すべきだと主張している。
Amodei の提案は、高度な AI モデルに対して強制的な第三者テストを要求し、サイバーセキュリティ、生物兵器、制御不能リスク、自動化研究開発の4つのリスクをカバーし、不安全な展開を政府が阻止できる権限を付与するものだ。この提案が発表される頃、Anthropic は上場準備を進めており、これまでに 65 億ドルのシリーズ H 融資を完了し、評価額は 965 億ドルに達している。批評家の中には、OpenAI の CEO Sam Altman などもおり、厳格な規制は少数の企業が技術を集中管理する理由になり得ると疑問を呈している。