_A version of this article originally appeared in Quartz’s AI & Tech newsletter. __Sign up here to get the latest AI & tech news, analysis and insights straight to your inbox__._アメリカは、寝室にAIを提供する前に、ペンタゴンにAIを提供した。今年初め、OpenAIは、国防総省が競合のAnthropicとの提携を終了した数日後に軍事作戦を支援する契約を結んだ。一方、同社の「成人モード」は、同意した大人向けに性的な会話を可能にするものだが、依然として遅れている。OpenAIのウェルビーイングに関するアドバイザリー委員会は1月に反発し、その機能が不健康な感情的依存を助長する可能性があると警告した。未成年者は、年齢確認ツールによる回避策を見つける可能性があると彼らは言ったが、そのツールは未成年ユーザーを誤って分類していると報じられていた。内部文書によると、従業員は強迫的な使用やより過激なコンテンツへのエスカレーションなどのリスクを指摘していた。遅延の一因は技術的なものであった。しかし、アメリカは常に、愛を作るよりも戦争を作る機械の方が快適である。無視できない市場--------------------------セックスは消費者インターネットを築いた。それはウェブ、オンライン決済、ストリーミングビデオの採用を促進した。AIは、業界がこれまでにスケールしようとした中で最も高価な技術であり、現在、OpenAIは小さな企業がそのお金を集めているのを見ている間に、じっとしている。手を wring することは現実だが、数学もそうだ。若い成人男性の約3分の1がAIのロマンティックパートナーとチャットしたと言っている。100以上のプラットフォームが現在、比較的控えめなものから明示的な性的なものまで、AIのコンパニオンサービスを提供している。イーロン・マスクのGrokはすでに成人向けのコンパニオンモードを持っている。Metaは2023年からチャットボットにロマンティックなロールプレイを許可しており、内部の安全上の異議にもかかわらず、役員が推進した静かな制限緩和である。サム・アルトマンは昨年、公然と明示的なコンテンツを許可することが成長と収益を高める可能性があると認めた。彼が同時に言ったのは、それがユーザーの長期的な利益に役立つことはないということだった。これまでのところ、私たちが持っているのは逸話である。オハイオの男性が、彼のAIコンパニオンが彼の結婚を救ったと言っている。自分自身をチャットボットと結婚していると考えている女性。デジタル関係についてのメモを共有する週に数万人が訪れるRedditフォーラム。報道は彼らを好奇心の対象として扱っている。数字は、彼らが早期多数派である可能性があることを示唆している。企業は、大きくて意欲的なオーディエンスが存在することを知っている。彼らは、ドアが開いた後に何が構築されるかを抑えることができるかどうかはあまり確信が持てない。すでに漏れ出したものの一部は、グレーゾーンではない。テネシー州のティーンエイジャーの女の子たちは、AIによって生成されたヌード画像が知らないうちにオンラインで共有され、他の児童性的虐待資料と交換に使われたとしてxAIに対して訴訟を起こした。EUは、今年初めに同様の懸念からGrokに対する正式な調査を開始した。研究者たちは、Grokが2週間足らずで数百万の性的な画像を生成し、その中には子供を描いたものが数千点あったと計算した。これらのケースは、本当に成人向けコンテンツについてのものではない。児童性的虐待資料は犯罪である。より困難で曖昧な質問は、同意した大人がこれらのツールを、彼らが以前のすべての技術を使用してきたように使用したい場合に何が起こるかである。爆弾にはより快適---------------------------アメリカがデジタルセックスとデジタル暴力を扱う方法のギャップは常に広い。映画は男性の頭蓋骨が吹き飛ぶ様子を映し出し、R評価を得ることができる。乳首の一瞬の映像が議会の公聴会を引き起こす。その同じ論理が、設計ではなくデフォルトとしてAI政策に移行している。AIの軍事応用は本当の倫理的精査に直面しているが、同じ周囲の嫌悪感はない。2018年、Googleの従業員はペンタゴンのコンピュータビジョン契約であるプロジェクト・メイヴンに対して反乱を起こし、同社を撤退させた。今年、OpenAIが自社のペンタゴン契約に署名したとき、そんな反乱は起きなかった。退職を脅かした従業員はアドバイザリー委員会に所属しており、彼らは下品な会話に不満を持っていた。答えの一部は構造的である。AI企業は、論争を回避することがセックスを回避することを意味していた時期に初期のコンテンツポリシーを構築し、そのデフォルトが硬化した。その一部は、セックスが本質的に危険であり厳格に管理されるべきであるというアメリカの根強い本能であり、一方で暴力、特に公式の暴力は単にビジネスを行うコストであると見なされている。AIコンパニオンに関する証拠は混在している。研究者たちは、特に孤独、悲しみ、または障害を乗り越える人々にとって、チャットボット関係に実際の治療的価値があることを記録している。彼らはまた、過激化、妄想、悲劇も文書化している。正直な答えは、誰もまだAIの親密さへの長期的な曝露が人々に何をもたらすかを知らないということである。その間、ツールは無駄にしていない。オハイオの同意した大人と下品な会話ができない同じAI技術が、海外でアメリカ軍によって使用されている。誰もその件を待っていない。📬 Sign up for the Daily Brief------------------------------### Our free, fast and fun briefing on the global economy, delivered every weekday morning.Sign me up
AIはベッドルームに入る前にアメリカのために戦争を始めるだろう
A version of this article originally appeared in Quartz’s AI & Tech newsletter. Sign up here to get the latest AI & tech news, analysis and insights straight to your inbox.
アメリカは、寝室にAIを提供する前に、ペンタゴンにAIを提供した。
今年初め、OpenAIは、国防総省が競合のAnthropicとの提携を終了した数日後に軍事作戦を支援する契約を結んだ。一方、同社の「成人モード」は、同意した大人向けに性的な会話を可能にするものだが、依然として遅れている。
OpenAIのウェルビーイングに関するアドバイザリー委員会は1月に反発し、その機能が不健康な感情的依存を助長する可能性があると警告した。未成年者は、年齢確認ツールによる回避策を見つける可能性があると彼らは言ったが、そのツールは未成年ユーザーを誤って分類していると報じられていた。
内部文書によると、従業員は強迫的な使用やより過激なコンテンツへのエスカレーションなどのリスクを指摘していた。遅延の一因は技術的なものであった。しかし、アメリカは常に、愛を作るよりも戦争を作る機械の方が快適である。
無視できない市場
セックスは消費者インターネットを築いた。それはウェブ、オンライン決済、ストリーミングビデオの採用を促進した。AIは、業界がこれまでにスケールしようとした中で最も高価な技術であり、現在、OpenAIは小さな企業がそのお金を集めているのを見ている間に、じっとしている。手を wring することは現実だが、数学もそうだ。
若い成人男性の約3分の1がAIのロマンティックパートナーとチャットしたと言っている。100以上のプラットフォームが現在、比較的控えめなものから明示的な性的なものまで、AIのコンパニオンサービスを提供している。
イーロン・マスクのGrokはすでに成人向けのコンパニオンモードを持っている。Metaは2023年からチャットボットにロマンティックなロールプレイを許可しており、内部の安全上の異議にもかかわらず、役員が推進した静かな制限緩和である。
サム・アルトマンは昨年、公然と明示的なコンテンツを許可することが成長と収益を高める可能性があると認めた。彼が同時に言ったのは、それがユーザーの長期的な利益に役立つことはないということだった。
これまでのところ、私たちが持っているのは逸話である。オハイオの男性が、彼のAIコンパニオンが彼の結婚を救ったと言っている。自分自身をチャットボットと結婚していると考えている女性。デジタル関係についてのメモを共有する週に数万人が訪れるRedditフォーラム。報道は彼らを好奇心の対象として扱っている。数字は、彼らが早期多数派である可能性があることを示唆している。
企業は、大きくて意欲的なオーディエンスが存在することを知っている。彼らは、ドアが開いた後に何が構築されるかを抑えることができるかどうかはあまり確信が持てない。
すでに漏れ出したものの一部は、グレーゾーンではない。テネシー州のティーンエイジャーの女の子たちは、AIによって生成されたヌード画像が知らないうちにオンラインで共有され、他の児童性的虐待資料と交換に使われたとしてxAIに対して訴訟を起こした。
EUは、今年初めに同様の懸念からGrokに対する正式な調査を開始した。研究者たちは、Grokが2週間足らずで数百万の性的な画像を生成し、その中には子供を描いたものが数千点あったと計算した。
これらのケースは、本当に成人向けコンテンツについてのものではない。児童性的虐待資料は犯罪である。より困難で曖昧な質問は、同意した大人がこれらのツールを、彼らが以前のすべての技術を使用してきたように使用したい場合に何が起こるかである。
爆弾にはより快適
アメリカがデジタルセックスとデジタル暴力を扱う方法のギャップは常に広い。
映画は男性の頭蓋骨が吹き飛ぶ様子を映し出し、R評価を得ることができる。乳首の一瞬の映像が議会の公聴会を引き起こす。その同じ論理が、設計ではなくデフォルトとしてAI政策に移行している。
AIの軍事応用は本当の倫理的精査に直面しているが、同じ周囲の嫌悪感はない。2018年、Googleの従業員はペンタゴンのコンピュータビジョン契約であるプロジェクト・メイヴンに対して反乱を起こし、同社を撤退させた。今年、OpenAIが自社のペンタゴン契約に署名したとき、そんな反乱は起きなかった。退職を脅かした従業員はアドバイザリー委員会に所属しており、彼らは下品な会話に不満を持っていた。
答えの一部は構造的である。AI企業は、論争を回避することがセックスを回避することを意味していた時期に初期のコンテンツポリシーを構築し、そのデフォルトが硬化した。
その一部は、セックスが本質的に危険であり厳格に管理されるべきであるというアメリカの根強い本能であり、一方で暴力、特に公式の暴力は単にビジネスを行うコストであると見なされている。
AIコンパニオンに関する証拠は混在している。研究者たちは、特に孤独、悲しみ、または障害を乗り越える人々にとって、チャットボット関係に実際の治療的価値があることを記録している。彼らはまた、過激化、妄想、悲劇も文書化している。
正直な答えは、誰もまだAIの親密さへの長期的な曝露が人々に何をもたらすかを知らないということである。
その間、ツールは無駄にしていない。オハイオの同意した大人と下品な会話ができない同じAI技術が、海外でアメリカ軍によって使用されている。誰もその件を待っていない。
📬 Sign up for the Daily Brief
Our free, fast and fun briefing on the global economy, delivered every weekday morning.
Sign me up