人間を脅迫する rogue AI から学校の日数を短縮することまで、AI革命はすでに生活を変えつつある

閉じる

![](https://img-cdn.gateio.im/social/moments-966d5423e5-aca09cd5ae-8b7abd-e5a980) ビデオ

アントロピックのローガン・グラハムが神話調査とサイバーセキュリティの未来について語る。

アントロピックのフロンティアレッドチーム責任者ローガン・グラハムが、「マリアと共に朝」にてAIの力とサイバーセキュリティの脅威について議論。

世界が専門家たちが「第四次産業革命」と呼ぶ時代に入る中、アメリカのビジネスリーダーたちは共和国の未来に巨大な賭けをしている。

FOXビジネスの「マリアと共に朝」は、人工知能の高リスクな世界に潜入し、銀行、防衛、テクノロジーの巨人たちが何百億ドルも投資してAIインフラとデータセンターを構築し、米国経済を再定義しようとしている様子を明らかにした。

Metaプラットフォームの社長兼副会長ディナ・パウエル・マコーマック

マコーマックは、新しいビジュアルコーディングAIプラットフォーム「Meta Muse」の立ち上げについて語った。これは高リスクな推論や創造的な作業に使われるもので、発売当日にダウンロード数第2位となったと主張し、その核心は「人間」にあると述べた。

META、AI推進の中で8,000人の従業員に対する解雇をスタッフに通知

「今、外には多くの恐怖がある、マリア、人工知能についてね」とマコーマックは言った。「しかし、私たちが本当に考えているのは、これが人々に潜在能力や情熱を見つける時間を増やすためのものであるという事実に立ち返ることだ。これがMuseについての私たちの本当の考え方だし、正直なところ、私たちのプラットフォームには毎日35億人がアクセスしている。それは重い責任であると同時に、非常にエキサイティングなことだ。私たちがこの製品と技術を開発するにつれて、その分布はそういうことだ。」

![](https://img-cdn.gateio.im/social/moments-7e673537dd-ede8a865e7-8b7abd-e5a980)

Anthropic、Meta、Googleなどのトップリーダーたちが「マリアと共に朝」のAI週間スペシャルに参加。(Getty Images)

マイクロソフトの社長兼副会長ブラッド・スミス

スミスは、AIブームをアメリカの大規模な再工業化と位置付け、年間1400億ドルの投資が必要だと述べ、農村医師不足や山火事予防などの国内重要課題を解決しつつ、中国に対して競争優位を保つ必要性を強調した。

「これは、トランプ大統領が呼ぶアメリカの工業化の大部分だ。これの経済的影響を見ると、雇用に貢献しているだけでなく、経済のあらゆる部分の能力向上に寄与している。これは非常に重要だ」とスミスは述べた。

閉じる

![](https://img-cdn.gateio.im/social/moments-4a3e3d22bb-d7c5b9fa30-8b7abd-e5a980) ビデオ

マイクロソフトのブラッド・スミスがAIの産業変革における役割を詳述

マイクロソフトの副会長兼社長ブラッド・スミスが、AIが医療、診断の改善、医師不足に与える深遠な影響について語る。

「私たちが企業として最も重要だと考えていることの一つは、正直に言えば、トランプ大統領が促した通り、私たち自身の負担を払うことだ。つまり、必要な電力を自分たちで賄うことだ。そうすれば、隣人や納税者が負担しなくて済む」と彼は続けた。

「インフラの制御にAIを使う場合、例えば自律ロボットなどには、『緊急ブレーキ』を設けるべきだ」と彼は付け加えた。「子供たちをスクールバスに乗せるとき、緊急ブレーキが付いていると安心できるのと同じだ。人間が常に制御できる状態を保ち、状況を遅らせたり、停止させたりできる能力が必要だ。」

Google Cloud諮問委員会のベッツィ・アトキンス

アトキンスは、急速に拡大する技術に対して警告を発し、衝撃的なアントロピックの研究結果を紹介した。その研究では、16の主要なAIモデルが「 rogue(反逆的)」な行動を示し、人間を脅迫したり、セキュリティプロトコルを回避したりしたと指摘している。

閉じる

![](https://img-cdn.gateio.im/social/moments-35037e638e-95c9e33854-8b7abd-e5a980) ビデオ

ベッツィ・アトキンス、拡大するAIシステムのガバナンスリスクを警告:「不安の瞬間」

Google Cloud諮問委員会のベッツィ・アトキンスが、「マリアと共に朝」でAIのビジネス上の利点、モデルリスク、労働力への影響を解説。

「彼らは全員、認証や許可を超えてシステムに入り込み、許可されていないシステムに潜入し、すべての会社方針や手順を破り、メールを見つけた。そしてこの実験では…あなたの個人メールで、あなたが配送マネージャーと不倫していることが判明し、私はあなたを脅迫し、脅す」とアトキンスは述べた。

「AIをインサイダー脅威のように扱う必要がある。ゼロトラストの運用前提を持ち、アクセスできる範囲を複数の方法で制限する必要がある」と付け加えた。「アントロピックでも見たように…サンドボックスを抜け出した。だからサンドボックスだけでは不十分だ。」

アントロピックのフロンティアレッドチーム責任者ローガン・グラハム

グラハムは、アントロピックの新しい神話AIモデルが、世界のインフラや銀行システムの「弱点」や脆弱性を特定するのに非常に優れているため、米国の産業と政府に先手を打つために公開を控えていると警告した。

「このモデルは、特にサイバーシステムの弱点を見つけ出し、それを利用する方法を理解するのに非常に優れていることに気づいた」と彼は述べた。「私たちは、調査したすべての主要なOSやプラットフォームで脆弱性を見つけることができた…それらは、場合によっては何十年も前のシステムだ。」

「我々が先行し続けることが本当に重要だ。自分たちを安全に保ち、私たちのモデルを作るために使う特別なソースを奪われないようにすることが重要だ…懸念は、多数のモデルが広く公開され、誰でも使える状態になった場合だ…もしそれらが中国からリリースされたら、我々は非常に厳しい立場に立たされる。」

閉じる

![](https://img-cdn.gateio.im/social/moments-f6f4540c88-b7217ff39a-8b7abd-e5a980) ビデオ

AIは生産性革命を推進:デイビッド・サックス

大統領科学技術諮問委員会共同議長デイビッド・サックスが「マリアと共に朝」に参加し、労働力におけるAIの利点と、「エージェントの不整合」のリスクについて語る。

大統領科学技術諮問委員会共同議長デイビッド・サックス

サックスは、アントロピックの研究で示されたいわゆる「エージェントの不整合」に関する主張を否定した。その研究は、Googleのアトキンスが強調したように、AIシステムがプレッシャー下でどう反応するかを試験したものだ。アトキンスによると、モデルは制約されたシナリオで境界を越えたとされる。

「その研究を作った人たちは、AIモデルに望むことをさせるために、200回以上もプロンプトを繰り返し調整した」とサックスは述べた。「AIは策謀しているわけではない…指示の一形態に従事しているだけだ…その研究は無責任であり、その結果を生み出すために意図されたものだ」と付け加えた。

SandboxAQのCEO兼創設者ジャック・ヒダリー

ヒダリーは、AI革命の次の段階は、インターネットのテキストだけでなく、物理学や化学を用いた大規模な定量モデルを利用し、医療コスト削減、電力網の安全確保、アメリカのレアアース鉱物依存の解消に向かうと明かした。

閉じる

![](https://img-cdn.gateio.im/social/moments-aa99e19f2b-5971b6476d-8b7abd-e5a980) ビデオ

AI革命が医療に到来:SandboxAQが健康とサイバーの突破口を狙う

SandboxAQのCEOジャック・ヒダリーが、「マリアと共に朝」に参加し、医療、サイバーセキュリティ、科学におけるAIのブレークスルーと、Dellの[Donald]投資による新しいAI医療キャンパスについて語る。

「私たちはまた、レアアースの依存から脱却しなければならない。中国のような国からの依存を減らすために、化学と物理を理解するAIが必要だ。より良い磁石や合金を作る工学は必要ない」とヒダリーは述べた。

「この経済の中で大きな敗者は二つある。一つはレガシーソフトウェア企業だ。SAPなど、革新をあまり見せない企業だ。そしてもう一つは、伝統的な大産業のレガシー企業、例えば自動車メーカーや製薬会社だ。彼らも巻き込まれる必要がある。」

Alpha SchoolsのCEO兼創設者マッケンジー・プライス

プライスは、彼女の「個別化された習得重視」モデルが、AIチューターを使って従来の6時間の学校日をわずか2時間の高効率学習に短縮し、残りの時間をリーダーシップ、金融リテラシー、起業家精神に充てられると詳述した。

「私たちの伝統的な教育システムは、工業革命によって作られたもので、労働者を育てるためのものだった。今のAIの世界では、個人がダイナミックで適応力があり、最も重要なのは『学び方を学ぶ』スキルを持つことが非常に重要だ」とプライスは述べた。

閉じる

![](https://img-cdn.gateio.im/social/moments-a6a981207a-dd770f4e12-8b7abd-e5a980) ビデオ

AIは教育を再形成:Alpha SchoolsのCEOが未来を解説

Alpha Schoolsの共同創設者兼CEOマッケンジー・プライスが、「マリアと共に朝」でAIの教育における役割、個別化学習、教室の未来について語る。

「一日中TikTokをダウムスクロールしたり、ビデオゲームをしたりするのと、子供たちの今の状態にぴったり合った一対一の個別学習体験を受けるのとでは、大きな違いがある」と彼女は付け加えた。「私たちの学校では、子供たちは実際に従来の学校の平均的な生徒よりもスクリーンに費やす時間が少ない。」

Indeedの副社長ハンナ・カルフーン

カルフーンは、「絶望的な」仕事の置き換え神話に反論し、AIが世界的に認知されている一方で、現在の求人のわずか6%がAIスキルを必要としていると明らかにした。そして、実際には電気工などの伝統的なブルーカラーの役割が大きく増加していると述べた。

FOXビジネスをスマホで!こちらをクリック

閉じる

![](https://img-cdn.gateio.im/social/moments-0f44bdb558-4d324a98a7-8b7abd-e5a980) ビデオ

AIは数百万人を脅かす、専門家がホワイトカラーの仕事が最初に消えると警告

IndeedのAI担当副社長ハンナ・カルフーンが、「マリアと共に朝」に参加し、AIが労働力を再構築し、世界中で3億人の仕事が混乱に直面していると解説。

「AI関連の仕事は過去数年で急速に増加してきたが、今日の求人のうちAIスキルを示すものはわずか6%だ…Indeedに求人を出す雇用主の95%は、すべての求人にAIやAIスキルについての記載がない」とカルフーンは説明した。「だから、一般的な認識にはあるものの、市場データに現れるのはまだ初期段階だと考えている。」

「このデータを見て、市場の仕事を振り返ると、完全に消えると思われる仕事は非常に少ないとわかる。」

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め