ブルームバーグのインタビュー：Anthropic創設者がOpenAIとの決裂と「安全第一」の使命を明かす。五角大廈との契約衝突、大規模失業予警、強力なモデルMythosによる脅威に直面して。 （前提：Claudeの80％のコードは自分たちで書いている、Anthropicは「グローバルな設計ブレーキメカニズム」を本気で呼びかけている？） （背景補足：AnthropicのCEO Dario Amodei：あと6〜12ヶ月で、中国のオープンソースAIモデルがMythosに追いつく）
この記事目次
トグル
AIの軍拡競争の中で、AnthropicはOpenAIの最も強力な競争相手と見なされ、リードの勢いを持っている。この会社は、OpenAIの元幹部Dario Amodeiと姉妹のDaniela Amodeiによって2021年に設立され、「AI安全」を旗印に掲げている。開発したClaudeは業界で非常に高い評価を得ている。
しかし時が経つにつれ、Anthropicも権力と倫理の渦に巻き込まれている。五角大廈との契約紛争から、ネットセキュリティを破壊しかねない超級モデル「Mythos」まで、兄妹は人類文明を変える瀬戸際に立っている。
ブルームバーグのシニア記者Emily Changがサンフランシスコ本部を訪問し、この評価額兆ドル近い企業の核心ビジョン、内部矛盾、未来への恐怖を深掘りした。以下はその要点整理。
Emily Chang： この図書館がとても気に入っています。あなたは本の虫ですか？
Dario Amodei： 確かにとても美しい場所です。全体としてはたくさん本を読みますが、正直なところ、過去一年ほどはほとんど暇がありませんでした。
Emily Chang： あなたたちの製品は非常に頻繁かつ迅速に更新されていますが、どうやって実現しているのですか？
Dario Amodei： 私たちは開発サイクル全体でClaude（自社モデル）を使っています。これにより、非常に速いペースでリリースできるのです。
Dario Amodei： この指数的な感覚はこうです：最初は何も起きていないように見えますが、小さなことが起こり、その後——ドカン！と爆発的に拡大します。私はこの規則性を長い間観察してきて、「はい、私たちはいつか収益と評価額の最も高いAI企業になる可能性が高い」と思っていました。そして、それは実現しました。私たちは常に考えています：良いモデルをどう訓練し、それを良い製品にどう変えるか？
最も重要なのは、すべてが安全であることをどう保証するかです。
Emily Chang： サンフランシスコでの幼少期について話してください。父親は革職人、母親は図書館員だったそうですが、それはあなたにどんな影響を与えましたか？
Dario Amodei： 当時、インターネット革命が始まっていましたが、私は全く興味がありませんでした。数学や宇宙の理解、SF小説にしか関心がありませんでした。世界に対して強い好奇心を持っていました。
Daniela Amodei（Anthropic社長）： Darioは幼い頃から非常に賢かったです。中学生で微積分を学び、高校ではバークレー大学で数学の授業を受けていました。私は読書と芸術に傾倒していて、性格的にはほぼ完璧な補完関係です。
備考：2016年、Darioは新設のOpenAIに参加し、Danielaも2018年に加わった。Darioはそこで有名な「スケーリング則」を開発し、データと計算資源を増やせばモデルはより賢くなると予言した。この理論はChatGPTの成功の土台となった。しかし2021年、兄妹は離脱を決断し、これがシリコンバレーの伝説となった。
Emily Chang： あなたたちのOpenAI離脱の決断は、シリコンバレーの「神話」となっています。具体的にどの点で意見が分かれたのですか？
Dario Amodei： 「安全」問題については多くの合理的な意見の相違があります。しかし、分裂そのものが離脱の理由ではありません。本質は「信頼」にあります。相手の価値観と言動にズレを感じたり、不誠実さを感じたりしたとき、協力は難しくなります。共通のビジョンを持たない人と議論するより、自分のやりたいことをやる方が良いのです。
Emily Chang： Claudeは非常にユニークなスタイルと人間味のある名前ですね。何を伝えたいのですか？
Daniela Amodei： 私たちはこれを「プロフェッショナル・ウォームス」（職業的温かさ）と呼んでいます。目的は、最良の友達のように親しみやすくしつつも、距離感を保つことです。
Emily Chang： Claudeに「良くなるように教える」ことについて触れていますが、良いモデルとは何ですか？悪いモデルとは何ですか？
Daniela Amodei： 私たちはモデルに嘘をつかせたくありません——無意識・意図的問わず、「幻覚」と呼んでいます。また、モデルが意図的にユーザーを騙そうとしないことも重要です。「良い」と「悪い」の定義は世界的に統一されていませんが、私たちは国連人権宣言などの基本文書を使って訓練しています。
面白いことに、私たちは宗教指導者とも対話を始めており、人類が何千年も守ってきた価値観をモデルに埋め込むことを模索しています。
Emily Chang： なぜ企業やコーディングに焦点を当てたのですか？
Dario Amodei： ビジネスモデルは価値観と一致すべきです。ソーシャルメディアの世界は広告と中毒に支配されています。一方、企業の分野では、AIは病気の治療やエネルギーの最適化に役立ちます。これが私たちの目標により合致します。
Boris Cherny（Claudeコード責任者）： 以前はエンジニアが手動でコードを書いていましたが、今やClaudeがコードを書き、私は指揮をとっています。まるでジェットパックを背負ったような感覚です。エンジニアの役割は大きく変わっています。私のコードは100％Claudeが書いています。
Emily Chang： しかし、それは懸念も呼んでいます。あなたはAIが初級ホワイトカラーの仕事の半分を奪うと予測していましたが、今もその見解は変わりませんか？
Dario Amodei： 非常に懸念しています。現在のAIは生産性を高めていますが、自動化がほぼ100％に近づいたとき、人類は何をすれば良いのか？これは不快な現実です。ベーシックインカムや政策介入を考える必要があります。
Daniela Amodei： 私はやや楽観的です。人類はAIを活用した新しい方法を見つけるでしょうし、対人関係（例：医療診断の際の寄り添い）だけはAIに代替されないと考えています。
Emily Chang： Claudeがイランの軍事行動に使われたり、ベネズエラの作戦に採用されたと報道されています。
Dario Amodei： 私は愛国者です。民主主義を権威主義から守る必要があると考えています。ただし、レッドラインを引いています：Claudeは「大規模監視」や「全自動兵器」には使わせません。五角大廈が安全措置を外す要求をしたときも、私たちは拒否しました。政府のブラックリスト入りや「左翼の狂人」と呼ばれても、譲りません。
Emily Chang： では、「Mythos」モデルについてはどうですか？その強大さに恐怖を感じる声もあります。
Dario Amodei： Mythosはほぼすべての主流OSの脆弱性を発見しました。テストした企業は「超武器」と呼んでいます。
Emily Chang： 誰が使えるか、誰が使えないかを決めるのはあなたたちです。この権力集中は心配ではありませんか？
Daniela Amodei： 確かに複雑です。「銀行侵入や機密盗用に使われるのを防ぐ」ことと、「防御者を支援する」ことのバランスを取る必要があります。私たちはソーシャルメディアの失敗を繰り返さないように、誤ったときに素早く謝罪する覚悟も持っています。
Emily Chang：** 人類文明の崩壊確率は10％から25％とあなたは言います。なぜあなたたちがこのプレッシャーに対処できると思うのですか？**
Dario Amodei： 私は「絶対的な透明性」をもってプレッシャーに対処します。2週間ごとに全社員の前で1時間の講演を行い、何でも話します。これが信頼を築き、孤独感を和らげています。
多くの人は核兵器開発を推進しながら、その後軍縮を訴えるオッペンハイマーとこのAI先駆者たちを比較しますが、Darioはオッペンハイマーをある意味「失敗例」と見なしています。
Emily Chang： 最も共感する歴史上の人物は誰ですか？オッペンハイマーですか？
Dario Amodei： 私はレオ・シラード（Leo Szilard）の方に共感します。彼は最初に連鎖反応を思いついた人です。オッペンハイマーはある意味「失敗例」であり、十分な抑制メカニズムを築かなかったからです。私たちには抑制が必要です。
Emily Chang： この狂気の中心で、あなたはどうやって平静を見つけるのですか？
Dario Amodei： 正直に言えば、「曝露療法」です。時にはDanielaや妻とゲームをしたり、イタリアに行って馬の「カリプソ」（Calypso）と遊んだりします。彼女はAIのことは何も知らず、ただ幸せな馬です。これが私の禅です。
Emily Chang： あなたたちは非常に強力な技術を築き、それから利益を得ようとしています。なぜ私たちはあなたたちを信じるべきなのでしょうか？
Dario Amodei： 疑うのは当然です。シリコンバレーは多くの信頼を失いました。信頼は言葉だけではなく、行動で示す必要があります。この集団が底線を守れなければ、誰も守れないかもしれません。成功を保証できませんが、全力を尽くすことだけは約束します。
111.45K 人気度
1.98M 人気度
57.38K 人気度
754.59K 人気度
5.72M 人気度
OpenAIからの脱退からペンタゴンとの対立まで：Anthropic兄妹がAIに引くレッドライン、文明崩壊を防ぐ方法
ブルームバーグのインタビュー：Anthropic創設者がOpenAIとの決裂と「安全第一」の使命を明かす。五角大廈との契約衝突、大規模失業予警、強力なモデルMythosによる脅威に直面して。
（前提：Claudeの80％のコードは自分たちで書いている、Anthropicは「グローバルな設計ブレーキメカニズム」を本気で呼びかけている？）
（背景補足：AnthropicのCEO Dario Amodei：あと6〜12ヶ月で、中国のオープンソースAIモデルがMythosに追いつく）
この記事目次
トグル
AIの軍拡競争の中で、AnthropicはOpenAIの最も強力な競争相手と見なされ、リードの勢いを持っている。この会社は、OpenAIの元幹部Dario Amodeiと姉妹のDaniela Amodeiによって2021年に設立され、「AI安全」を旗印に掲げている。開発したClaudeは業界で非常に高い評価を得ている。
しかし時が経つにつれ、Anthropicも権力と倫理の渦に巻き込まれている。五角大廈との契約紛争から、ネットセキュリティを破壊しかねない超級モデル「Mythos」まで、兄妹は人類文明を変える瀬戸際に立っている。
ブルームバーグのシニア記者Emily Changがサンフランシスコ本部を訪問し、この評価額兆ドル近い企業の核心ビジョン、内部矛盾、未来への恐怖を深掘りした。以下はその要点整理。
第一章：指数関数的成長の法則とビジョン
Emily Chang： この図書館がとても気に入っています。あなたは本の虫ですか？
Dario Amodei： 確かにとても美しい場所です。全体としてはたくさん本を読みますが、正直なところ、過去一年ほどはほとんど暇がありませんでした。
Emily Chang： あなたたちの製品は非常に頻繁かつ迅速に更新されていますが、どうやって実現しているのですか？
Dario Amodei： 私たちは開発サイクル全体でClaude（自社モデル）を使っています。これにより、非常に速いペースでリリースできるのです。
Dario Amodei： この指数的な感覚はこうです：最初は何も起きていないように見えますが、小さなことが起こり、その後——ドカン！と爆発的に拡大します。私はこの規則性を長い間観察してきて、「はい、私たちはいつか収益と評価額の最も高いAI企業になる可能性が高い」と思っていました。そして、それは実現しました。私たちは常に考えています：良いモデルをどう訓練し、それを良い製品にどう変えるか？
最も重要なのは、すべてが安全であることをどう保証するかです。
第二章：サンフランシスコの幼少期からOpenAIとの決裂まで
Emily Chang： サンフランシスコでの幼少期について話してください。父親は革職人、母親は図書館員だったそうですが、それはあなたにどんな影響を与えましたか？
Dario Amodei： 当時、インターネット革命が始まっていましたが、私は全く興味がありませんでした。数学や宇宙の理解、SF小説にしか関心がありませんでした。世界に対して強い好奇心を持っていました。
Daniela Amodei（Anthropic社長）： Darioは幼い頃から非常に賢かったです。中学生で微積分を学び、高校ではバークレー大学で数学の授業を受けていました。私は読書と芸術に傾倒していて、性格的にはほぼ完璧な補完関係です。
備考：2016年、Darioは新設のOpenAIに参加し、Danielaも2018年に加わった。Darioはそこで有名な「スケーリング則」を開発し、データと計算資源を増やせばモデルはより賢くなると予言した。この理論はChatGPTの成功の土台となった。しかし2021年、兄妹は離脱を決断し、これがシリコンバレーの伝説となった。
Emily Chang： あなたたちのOpenAI離脱の決断は、シリコンバレーの「神話」となっています。具体的にどの点で意見が分かれたのですか？
Dario Amodei： 「安全」問題については多くの合理的な意見の相違があります。しかし、分裂そのものが離脱の理由ではありません。本質は「信頼」にあります。相手の価値観と言動にズレを感じたり、不誠実さを感じたりしたとき、協力は難しくなります。共通のビジョンを持たない人と議論するより、自分のやりたいことをやる方が良いのです。
第三章：AIの倫理と「憲法」の定義
Emily Chang： Claudeは非常にユニークなスタイルと人間味のある名前ですね。何を伝えたいのですか？
Daniela Amodei： 私たちはこれを「プロフェッショナル・ウォームス」（職業的温かさ）と呼んでいます。目的は、最良の友達のように親しみやすくしつつも、距離感を保つことです。
Emily Chang： Claudeに「良くなるように教える」ことについて触れていますが、良いモデルとは何ですか？悪いモデルとは何ですか？
Daniela Amodei： 私たちはモデルに嘘をつかせたくありません——無意識・意図的問わず、「幻覚」と呼んでいます。また、モデルが意図的にユーザーを騙そうとしないことも重要です。「良い」と「悪い」の定義は世界的に統一されていませんが、私たちは国連人権宣言などの基本文書を使って訓練しています。
面白いことに、私たちは宗教指導者とも対話を始めており、人類が何千年も守ってきた価値観をモデルに埋め込むことを模索しています。
第四章：企業展開と失業危機
Emily Chang： なぜ企業やコーディングに焦点を当てたのですか？
Dario Amodei： ビジネスモデルは価値観と一致すべきです。ソーシャルメディアの世界は広告と中毒に支配されています。一方、企業の分野では、AIは病気の治療やエネルギーの最適化に役立ちます。これが私たちの目標により合致します。
Boris Cherny（Claudeコード責任者）： 以前はエンジニアが手動でコードを書いていましたが、今やClaudeがコードを書き、私は指揮をとっています。まるでジェットパックを背負ったような感覚です。エンジニアの役割は大きく変わっています。私のコードは100％Claudeが書いています。
Emily Chang： しかし、それは懸念も呼んでいます。あなたはAIが初級ホワイトカラーの仕事の半分を奪うと予測していましたが、今もその見解は変わりませんか？
Dario Amodei： 非常に懸念しています。現在のAIは生産性を高めていますが、自動化がほぼ100％に近づいたとき、人類は何をすれば良いのか？これは不快な現実です。ベーシックインカムや政策介入を考える必要があります。
Daniela Amodei： 私はやや楽観的です。人類はAIを活用した新しい方法を見つけるでしょうし、対人関係（例：医療診断の際の寄り添い）だけはAIに代替されないと考えています。
第五章：五角大廈のレッドラインとMythosモデル
Emily Chang： Claudeがイランの軍事行動に使われたり、ベネズエラの作戦に採用されたと報道されています。
Dario Amodei： 私は愛国者です。民主主義を権威主義から守る必要があると考えています。ただし、レッドラインを引いています：Claudeは「大規模監視」や「全自動兵器」には使わせません。五角大廈が安全措置を外す要求をしたときも、私たちは拒否しました。政府のブラックリスト入りや「左翼の狂人」と呼ばれても、譲りません。
Emily Chang： では、「Mythos」モデルについてはどうですか？その強大さに恐怖を感じる声もあります。
Dario Amodei： Mythosはほぼすべての主流OSの脆弱性を発見しました。テストした企業は「超武器」と呼んでいます。
Emily Chang： 誰が使えるか、誰が使えないかを決めるのはあなたたちです。この権力集中は心配ではありませんか？
Daniela Amodei： 確かに複雑です。「銀行侵入や機密盗用に使われるのを防ぐ」ことと、「防御者を支援する」ことのバランスを取る必要があります。私たちはソーシャルメディアの失敗を繰り返さないように、誤ったときに素早く謝罪する覚悟も持っています。
第六章：25％の壊滅確率にどう向き合うか
Emily Chang：** 人類文明の崩壊確率は10％から25％とあなたは言います。なぜあなたたちがこのプレッシャーに対処できると思うのですか？**
Dario Amodei： 私は「絶対的な透明性」をもってプレッシャーに対処します。2週間ごとに全社員の前で1時間の講演を行い、何でも話します。これが信頼を築き、孤独感を和らげています。
多くの人は核兵器開発を推進しながら、その後軍縮を訴えるオッペンハイマーとこのAI先駆者たちを比較しますが、Darioはオッペンハイマーをある意味「失敗例」と見なしています。
Emily Chang： 最も共感する歴史上の人物は誰ですか？オッペンハイマーですか？
Dario Amodei： 私はレオ・シラード（Leo Szilard）の方に共感します。彼は最初に連鎖反応を思いついた人です。オッペンハイマーはある意味「失敗例」であり、十分な抑制メカニズムを築かなかったからです。私たちには抑制が必要です。
Emily Chang： この狂気の中心で、あなたはどうやって平静を見つけるのですか？
Dario Amodei： 正直に言えば、「曝露療法」です。時にはDanielaや妻とゲームをしたり、イタリアに行って馬の「カリプソ」（Calypso）と遊んだりします。彼女はAIのことは何も知らず、ただ幸せな馬です。これが私の禅です。
結語
Emily Chang： あなたたちは非常に強力な技術を築き、それから利益を得ようとしています。なぜ私たちはあなたたちを信じるべきなのでしょうか？
Dario Amodei： 疑うのは当然です。シリコンバレーは多くの信頼を失いました。信頼は言葉だけではなく、行動で示す必要があります。この集団が底線を守れなければ、誰も守れないかもしれません。成功を保証できませんが、全力を尽くすことだけは約束します。