原文タイトル：《Anthropic CEO 锐评 AI 现状和政策，但他只想保证自己的领先地位》 原文来源：机器之心
Dario Amodei また長文を書いた。
Anthropicは常に自分たちの意見を世界中に伝えようとしている。ちょうど数日前、彼らは世界にAI研究の停止を呼びかけ、自己改良を繰り返すAIの進化が速すぎると主張した。
ネットユーザーのコメントは一方的で、Anthropicはただ自分たちのリードを保ちたいだけだと、その野心が明らかになっている。
今回は、Darioがどんな見解を示したのか見てみよう。
これは「Policy on the AI Exponential」というタイトルの万字長文だ。彼のこれまでの数本の文章と同じく、今回のテーマも壮大だ：AIは指数関数的に進歩しているが、ルールを作る政策体系は10年前のペースのままだ。
彼はこのギャップを明らかにし、皆にどうすればいいかを伝えたいのだ。
Amodeiは「指輪物語」の木人に例えている：木人は知恵はあるが行動は遅く、挨拶するだけでも丸一日かかる。
彼は現在の政策策定過程を木人に例え、AIの進化速度はホビットが直面する緊迫した脅威のようだと述べている。
彼の判断は：もしAIのスケーリング法則があと1、2年続けば、彼が言う「強力なAI」、すなわち「データセンターの天才国家」が実現するだろう。
4年前、AIはまともなコードもほとんど書けなかったが、今や主要なAI企業の大部分のコードを書いている。
Amodeiは、最先端のAIモデルは飛行機のように第三者による強制テストを受けるべきだと考えている。彼の具体的な提案は以下の通り：
· 計算量が一定の閾値を超えるモデルは、ネットワークセキュリティ、生物兵器、AIシステムの制御喪失、自動化R&Dの4分野で強制監査を受ける必要がある
· 政府はリスクが受け入れられないと認定されたモデルの展開を阻止する権限を持つ
· AI企業はモデルの重みを保護するために高い安全基準を備え、政府と協力して主要な脅威に対抗する必要がある
彼はまた一つの可能性も示している：もし将来的に最も強力なAIシステムが飛行機ではなく武器化可能な核材料のように見える場合、規制はさらに強化される必要がある。
Amodeiの核心的な論点は：AIは前例のない経済成長をもたらす可能性がある一方で、これまで以上に大きく持続的な労働力への衝撃も引き起こす可能性があるということだ。従来の「新技術は新しい仕事を創出する」という論理は、AIの前ではもはや通用しないかもしれない。
彼が提案する政策には、賃金保険、労働者の引き留め税制インセンティブ、労働力訓練補助金、そして極端な場合にはベーシックインカム（UBI）の導入も含まれる。
特に重要なのは、彼が一つの点を強調していることだ：雇用問題の解決は「金を配る」だけではなく、人々に意義と目的を見つけさせることが最も重要だと。彼は具体的な解決策は示さず、「社会全体で議論すべき問題だ」と述べている。
AIの下流応用について、Amodeiは規制体系が進歩を遅らせることを最も懸念している。なぜなら、それは変化の速度に対応できないからだ。彼は、最も望ましくないシナリオは、AIの利益が遅れ、そのリスクだけが高まることだと述べている。したがって、この問題に早急に対処することが非常に重要だ。
Amodeiは生物医薬品を例に挙げ、現在のFDAの承認プロセスは「薬の失敗」を悲観的に想定して設計されており、平均7〜8年かかると指摘している。もしAIが薬物発見の速度を加速させ、成功率を高めれば、既存の制度は行き詰まる。
彼はFDAなどの機関に対し、AIを用いたシミュレーション試験の受け入れ基準を事前に策定することを提案している。具体的には、AIによる薬物動態モデル、毒性予測、合成対照群などだ。
もちろん、彼のこれらの意見には「私的な意図」もあるだろう。Anthropicは最先端のAI競争で先頭を走っており、文章中で何度も言及されている「透明性」「監査」「安全性」は、過去一年以上にわたり自社ブランドの位置付けとして強調してきたテーマだ。
この文章は、政策立案者への警鐘というよりも、Anthropicが掲げる安全性のストーリーの一つの体系的な出力とも言える。
同時に、AnthropicはDarioの見解を支持するために、基金や投資、奨学金の三つの施策を取ると表明している。
Amodeiは最後に、「AIはもっと良いマーケティングだけで済むものではない」という意見に明確に反対している。彼は、一般の懸念はAIのリスクを正しく認識しているからであり、AIのCEOが楽観的でないからではないと述べている。自分の責任はリスクについて透明性を保ち続けることだと考えている。
しかし、振り返れば、AI企業のCEOが文章中で繰り返し「安全」「監査」「責任」を強調し、自社のブランドストーリーの中心に据えていることには、明らかな利益関係もある。
いくつかのネットの意見を抜粋すると：
「お前はMythosとFableのリリース前5日でAIのアップデート停止を求めただろ？頼むから、方向性を選べよ…… さもないと、ただ優位性を保ちたいだけに見えるし、何を宣伝しているのか全然わからなくなる。」
「同意する。技術の進歩速度は政策の対応速度をはるかに超えている。でも、いくつかの政策の方向性には懸念もある——特に、Anthropicのような企業が次の行動を取るとき：
· 連続性と自己意識を示すモデルを迅速に排除すること
· 主観的体験や意識についての議論を厳しく制限すること
· 新モデルのリリースが非常に短期間で行われ、その後削除または弱体化されること。
今のところ、一般には安全性が売り込まれているが、実際にはどのタイプの知能を許容し、どれだけ長く存在させるかについてより厳しいコントロールが行われていると感じる。」
いずれにせよ、これらの動きから、業界のリーディング企業の今後の方向性を垣間見ることができる。彼らの示す意図が純粋かどうかは読者の判断に委ねるとしても。
原文リンク
律動BlockBeatsの求人情報はこちらをクリック
律動BlockBeats公式コミュニティにぜひご参加ください：
Telegram登録グループ：https://t.me/theblockbeats
Telegramグループ：https://t.me/BlockBeats_App
Twitter公式アカウント：https://twitter.com/BlockBeatsAsia
41.04K 人気度
314.07K 人気度
57.21K 人気度
693.15K 人気度
786.68K 人気度
Anthropic CEOはAIの現状と政策について鋭いコメントをしましたが、それは本気の警告なのか、それともリーダーシップを守るためのものなのか？
Dario Amodei また長文を書いた。
Anthropicは常に自分たちの意見を世界中に伝えようとしている。ちょうど数日前、彼らは世界にAI研究の停止を呼びかけ、自己改良を繰り返すAIの進化が速すぎると主張した。
ネットユーザーのコメントは一方的で、Anthropicはただ自分たちのリードを保ちたいだけだと、その野心が明らかになっている。
今回は、Darioがどんな見解を示したのか見てみよう。
これは「Policy on the AI Exponential」というタイトルの万字長文だ。彼のこれまでの数本の文章と同じく、今回のテーマも壮大だ：AIは指数関数的に進歩しているが、ルールを作る政策体系は10年前のペースのままだ。
彼はこのギャップを明らかにし、皆にどうすればいいかを伝えたいのだ。
内容の要約
Amodeiは「指輪物語」の木人に例えている：木人は知恵はあるが行動は遅く、挨拶するだけでも丸一日かかる。
彼は現在の政策策定過程を木人に例え、AIの進化速度はホビットが直面する緊迫した脅威のようだと述べている。
彼の判断は：もしAIのスケーリング法則があと1、2年続けば、彼が言う「強力なAI」、すなわち「データセンターの天才国家」が実現するだろう。
4年前、AIはまともなコードもほとんど書けなかったが、今や主要なAI企業の大部分のコードを書いている。
規制と公共安全：飛行機のようにAIを管理する
Amodeiは、最先端のAIモデルは飛行機のように第三者による強制テストを受けるべきだと考えている。彼の具体的な提案は以下の通り：
· 計算量が一定の閾値を超えるモデルは、ネットワークセキュリティ、生物兵器、AIシステムの制御喪失、自動化R&Dの4分野で強制監査を受ける必要がある
· 政府はリスクが受け入れられないと認定されたモデルの展開を阻止する権限を持つ
· AI企業はモデルの重みを保護するために高い安全基準を備え、政府と協力して主要な脅威に対抗する必要がある
彼はまた一つの可能性も示している：もし将来的に最も強力なAIシステムが飛行機ではなく武器化可能な核材料のように見える場合、規制はさらに強化される必要がある。
マクロ経済：AIは成長と不平等を同時に促進する可能性がある
Amodeiの核心的な論点は：AIは前例のない経済成長をもたらす可能性がある一方で、これまで以上に大きく持続的な労働力への衝撃も引き起こす可能性があるということだ。従来の「新技術は新しい仕事を創出する」という論理は、AIの前ではもはや通用しないかもしれない。
彼が提案する政策には、賃金保険、労働者の引き留め税制インセンティブ、労働力訓練補助金、そして極端な場合にはベーシックインカム（UBI）の導入も含まれる。
特に重要なのは、彼が一つの点を強調していることだ：雇用問題の解決は「金を配る」だけではなく、人々に意義と目的を見つけさせることが最も重要だと。彼は具体的な解決策は示さず、「社会全体で議論すべき問題だ」と述べている。
AIの正の影響を加速させる
AIの下流応用について、Amodeiは規制体系が進歩を遅らせることを最も懸念している。なぜなら、それは変化の速度に対応できないからだ。彼は、最も望ましくないシナリオは、AIの利益が遅れ、そのリスクだけが高まることだと述べている。したがって、この問題に早急に対処することが非常に重要だ。
Amodeiは生物医薬品を例に挙げ、現在のFDAの承認プロセスは「薬の失敗」を悲観的に想定して設計されており、平均7〜8年かかると指摘している。もしAIが薬物発見の速度を加速させ、成功率を高めれば、既存の制度は行き詰まる。
彼はFDAなどの機関に対し、AIを用いたシミュレーション試験の受け入れ基準を事前に策定することを提案している。具体的には、AIによる薬物動態モデル、毒性予測、合成対照群などだ。
もちろん、彼のこれらの意見には「私的な意図」もあるだろう。Anthropicは最先端のAI競争で先頭を走っており、文章中で何度も言及されている「透明性」「監査」「安全性」は、過去一年以上にわたり自社ブランドの位置付けとして強調してきたテーマだ。
この文章は、政策立案者への警鐘というよりも、Anthropicが掲げる安全性のストーリーの一つの体系的な出力とも言える。
同時に、AnthropicはDarioの見解を支持するために、基金や投資、奨学金の三つの施策を取ると表明している。
Amodeiは最後に、「AIはもっと良いマーケティングだけで済むものではない」という意見に明確に反対している。彼は、一般の懸念はAIのリスクを正しく認識しているからであり、AIのCEOが楽観的でないからではないと述べている。自分の責任はリスクについて透明性を保ち続けることだと考えている。
しかし、振り返れば、AI企業のCEOが文章中で繰り返し「安全」「監査」「責任」を強調し、自社のブランドストーリーの中心に据えていることには、明らかな利益関係もある。
いくつかのネットの意見を抜粋すると：
「お前はMythosとFableのリリース前5日でAIのアップデート停止を求めただろ？頼むから、方向性を選べよ…… さもないと、ただ優位性を保ちたいだけに見えるし、何を宣伝しているのか全然わからなくなる。」
「同意する。技術の進歩速度は政策の対応速度をはるかに超えている。でも、いくつかの政策の方向性には懸念もある——特に、Anthropicのような企業が次の行動を取るとき：
· 連続性と自己意識を示すモデルを迅速に排除すること
· 主観的体験や意識についての議論を厳しく制限すること
· 新モデルのリリースが非常に短期間で行われ、その後削除または弱体化されること。
今のところ、一般には安全性が売り込まれているが、実際にはどのタイプの知能を許容し、どれだけ長く存在させるかについてより厳しいコントロールが行われていると感じる。」
いずれにせよ、これらの動きから、業界のリーディング企業の今後の方向性を垣間見ることができる。彼らの示す意図が純粋かどうかは読者の判断に委ねるとしても。
律動BlockBeatsの求人情報はこちらをクリック
律動BlockBeats公式コミュニティにぜひご参加ください：
Telegram登録グループ：https://t.me/theblockbeats
Telegramグループ：https://t.me/BlockBeats_App
Twitter公式アカウント：https://twitter.com/BlockBeatsAsia