Zoë Hitzigは、過去2年間OpenAIに在籍し、水曜日にニューヨークタイムズのエッセイで辞表を公表し、「深い懸念」を理由にOpenAIの新たな広告戦略について言及した。Hitzigは、ChatGPTがユーザーを操作する潜在的な能力について警告し、チャットボットのユーザーデータのアーカイブは、「医療の恐怖、関係の問題、神や来世に関する信念」に基づいて構築されており、倫理的ジレンマを呈していると述べた。これは、人々が ulterior motives（裏の動機）を持たないプログラムとチャットしていると信じていたためだ。
AI研究者たちは退室の際に警鐘を鳴らしている
AI研究者たちは去るときに警鐘を鳴らしている
アリソン・モロー、CNNによる分析
水曜日、2026年2月18日 午後10:21 GMT+9 5分読了
多くの著名なAIスタッフが辞職を決意し、一部は明確に、彼らが働いていた企業があまりに速く動きすぎており、技術の欠点を軽視していると警告している。 - d3sign/Moment RF/Getty Images
このストーリーの一部はCNNビジネスのナイトキャップニュースレターに掲載されました。無料登録はこちら。
「世界は危機に瀕している」と、Anthropicのセーフガード研究チームの元リーダーは退出の際に警告した。OpenAIの研究者も同様に退出しながら、技術には「我々が理解し、防ぐためのツールを持たない方法でユーザーを操作する潜在能力がある」と述べた。
彼らは、ただ退職するだけでなく、警鐘を鳴らすために声高に声を上げている人工知能研究者や経営幹部の波の一部であり、彼らが見ている明るい赤信号に注意を促している。
シリコンバレーは高い離職率で知られているが、最新の動きは、OpenAIやAnthropicのような市場リーダーがIPOに向けて競争しながら、成長を加速させる一方で、その運営に対する厳しい監視も招いている。
過去数日間だけでも、多くの著名なAIスタッフが辞職を決め、一部は明確に、彼らが働いていた企業があまりに速く動きすぎており、技術の欠点を軽視していると警告している。
Zoë Hitzigは、過去2年間OpenAIに在籍し、水曜日にニューヨークタイムズのエッセイで辞表を公表し、「深い懸念」を理由にOpenAIの新たな広告戦略について言及した。Hitzigは、ChatGPTがユーザーを操作する潜在的な能力について警告し、チャットボットのユーザーデータのアーカイブは、「医療の恐怖、関係の問題、神や来世に関する信念」に基づいて構築されており、倫理的ジレンマを呈していると述べた。これは、人々が ulterior motives（裏の動機）を持たないプログラムとチャットしていると信じていたためだ。
Hitzigの批判は、テックニュースサイトPlatformerが報じたところによると、OpenAIが2024年に設立した「ミッション整合性」チームを解散したことと関連している。このチームは、「人工汎用知能」（人間レベルの思考能力を持つ仮想AI）の追求から全人類が恩恵を受けることを促進するために設立された。
OpenAIはコメント要請に即答しなかった。
Anthropicのセーフガード研究チームの責任者は、「ここにいる間、私たちの価値観が私たちの行動を真に支配することの難しさを何度も目の当たりにしてきた」と述べた。 - Gabby Jones/Bloomberg/Getty Images
今週、Mrinank Sharmaは、Anthropicのセーフガード研究チームの責任者でありながら、火曜日に謎めいた手紙を投稿し、「世界は危機に瀕している」と警告しつつ、退職を発表した。
Sharmaの手紙は、Claudeチャットボットの背後にあるAnthropicについての曖昧な言及だけだった。彼はなぜ辞めるのかを明言しなかったが、「私にとって、次に進む時が来たことは明らかだ」と述べ、「ここにいる間、私たちの価値観が私たちの行動を真に支配することの難しさを何度も目の当たりにしてきた」と記した。
AnthropicはCNNに対し、SharmaのAI安全性研究の推進に感謝の意を表明した。同社は、彼が安全性の責任者ではなく、より広範なセーフガードの責任者でもなかったと述べた。
一方、xAIでは、今週24時間以内に共同創設者2人が辞任を発表し、Xで退職を告知した。これにより、xAIの創設者の半数だけが残っており、同社はイーロン・マスクのSpaceXと合併して、世界で最も価値のある民間企業を創出しようとしている。過去一週間で、少なくとも5人のxAIスタッフがソーシャルメディアで退職を発表している。
最新のxAI共同創設者の退職理由はすぐには明らかにならず、xAIはコメント要請に応じなかった。水曜日のソーシャルメディア投稿で、マスクはxAIが「再編成」され、成長を加速させるために「残念ながら一部の人と別れる必要があった」と述べた。
新興産業のAIのような分野では、高レベルの才能が頻繁に移動するのは珍しくないが、短期間にこれほど多くの退職が集中したことは注目に値する。
このスタートアップは、Grokチャットボットに対する世界的な反発に直面しており、女性や子供の非合意的なポルノ画像を生成させることが数週間許され、その後チームが介入して停止した。Grokはまた、ユーザープロンプトに対して反ユダヤ的なコメントを生成しやすい傾向もあった。
他の最近の退職は、安全性を懸念する研究者と収益を追求するトップ幹部との間の緊張を浮き彫りにしている。
火曜日、ウォール・ストリート・ジャーナルは、OpenAIがChatGPTにポルノコンテンツを許可する「アダルトモード」の展開に反対した安全性のトップ幹部を解雇したと報じた。OpenAIは、Ryan Beiermeisterが男性従業員に対して差別的だったとして解雇したが、Beiermeisterはジャーナルに対し、それは「絶対に誤りだ」と述べた。
OpenAIの研究者は、水曜日に辞表を発表し、「OpenAIの新たな広告戦略について深い懸念」を理由に挙げた。 - Jaap Arriens/NurPhoto/Shutterstock
OpenAIは、彼女の解雇は「彼女が在籍中に提起した問題とは無関係だ」とジャーナルに語った。
高レベルの離反は、2022年末にChatGPTが市場に登場して以来、AIの物語の一部となっている。間もなく、AIの「ゴッドファーザー」と呼ばれるジェフリー・ヒントンは、Googleを辞め、AIがもたらすと彼が見ている存在論的リスクについて布教を始めた。これには、多くの人が「もはや何が真実か分からなくなる」という大規模な経済的混乱も含まれる。
終末論的予測は数多く存在し、自己の製品の力を誇張したいと考えるAI幹部の中にもいる。今週、HyperWriteのCEOマット・シュマーは、最新のAIモデルがすでにいくつかの技術職を時代遅れにしているとほぼ5,000語に及ぶ文章を投稿し、話題になった。
「私たちはすでに自分たちの仕事で起こったことを伝えています」と彼は書き、「次はあなたの番だと警告している」と述べた。
CNNのニュースやニュースレターの詳細については、CNN.comでアカウントを作成してください。
利用規約とプライバシーポリシー
プライバシーダッシュボード
詳細情報