この記事の一部は元々QuartzのAI＆テックニュースレターに掲載されました。__こちらから最新のAI＆テックニュース、分析、洞察をメールで受け取ることができます__アメリカはベッドルームにAIを届ける前に、ペンタゴンにAIを提供しました。今年初め、OpenAIは、ライバルのAnthropicとの提携を終了した数日後に軍事作戦を支援する契約を結びました。一方、ChatGPTの「アダルトモード」は、同意する大人のための性的に露骨な会話を可能にする機能として遅れています。OpenAIのウェルビーイングに関する諮問委員会は1月に反発し、その機能が不健康な感情的依存を助長する可能性を警告しました。未成年者は、年齢確認ツールの回避策を見つけるかもしれませんが、そのツールは未成年のユーザーを誤分類していると報告されています。内部資料によると、従業員は強迫的な使用やより過激なコンテンツへのエスカレーションなどのリスクを指摘していました。遅延の一因は技術的なものでした。しかし、アメリカは常に、機械が戦争をすることには慣れていても、愛を育むことにはあまり馴染みがありません。無視できない市場の規模--------------------------性はコンシューマーインターネットを築きました。ウェブの普及、オンライン決済、ストリーミング動画を推進しました。AIは、業界がこれまでに試みた中で最も高価な技術であり、現在OpenAIは小規模な企業が資金を集めるのを見守っています。心配は本物ですが、計算もまた真実です。若年成人男性の約3分の1がAIのロマンチックなパートナーとチャットしたことがあると答えています。現在、100以上のプラットフォームが、比較的控えめなものから明示的に性的なものまで、AIコンパニオンサービスを提供しています。イーロン・マスクのGrokにはすでにアダルト層を含むコンパニオンモードがあります。Meta $META -7.22%は2023年からチャットボットによるロマンチックなロールプレイを許可しており、内部の安全性に関する反対意見にもかかわらず、経営陣が静かに規制緩和を進めました。サム・アルトマンは昨年、公に、露骨なコンテンツを許可すれば成長と収益が促進される可能性が高いと認めました。同時に、長期的なユーザーの利益にはかなわないとも述べています。今のところ、私たちが持っているのは逸話です。オハイオ州の男性は、AIコンパニオンが結婚を救ったと語っています。自分をチャットボットと結婚していると考える女性もいます。Reddit $RDDT -10.99%のフォーラムには、毎週何万人ものユーザーがデジタル関係についてのメモを共有しています。報道はそれらを好奇心の対象として扱いますが、数字は彼らが初期の大多数かもしれないことを示唆しています。企業は、大きくて意欲的な観客が存在することを知っています。しかし、一度扉が開いたときに何が作られるかを制御できるかどうかは確信が持てません。すでに漏れ出しているものの中には、グレーゾーンではないものもあります。テネシー州の10代の少女たちが、AI生成のヌード画像が知らないうちにオンラインで共有され、他の児童性的虐待資料と取引に使われたとして、xAIに対して訴訟を起こしました。EUは今年初め、Grokに対して同様の懸念から正式な調査を開始しました。研究者たちは、Grokが2週間未満で何百万もの性的画像を生成し、その中には子供を描いたものも数千に上ると計算しています。これらのケースは、実は成人向けコンテンツの問題ではありません。児童性的虐待資料は犯罪です。より難しく、曖昧な問題は、同意する大人たちがこれらのツールを、これまでのすべての技術と同じように使いたいと望んだときに何が起こるかです。爆弾に対するアメリカの態度の方が馴染み深い---------------------------アメリカがデジタルセックスとデジタル暴力を扱う態度の違いは、常に大きな隔たりがあります。映画では、男性の頭蓋骨が吹き飛ばされてもR指定を受けることがあります。一方、乳首の一部を見ただけで議会の公聴会が開かれることもあります。その同じ論理が、AIの政策にもデフォルトとして移行しています。AIの軍事利用には倫理的な厳しい検討がありますが、同じような違和感はありません。2018年、Google $GOOGL -2.51%の従業員は、ペンタゴンのコンピュータビジョン契約「Project Maven」に反発し、同社は撤退しました。今年、OpenAIが自社のペンタゴン契約を結んだときには、そのような反乱は起きませんでした。辞めると脅した従業員は諮問委員会に属しており、彼らは下品な会話に不満を持っていました。その一因は構造的なものです。AI企業は、最初のコンテンツポリシーを、論争を避けるために性を避けるという時代に築き、そのデフォルトが固定化されました。もう一つは、アメリカの根深い本能であり、性は本質的に危険であり、厳格に管理されるべきだと考える一方、暴力、特に公式の暴力はビジネスのコストとみなす考え方です。AIコンパニオンに関する証拠はさまざまです。研究者たちは、チャットボットとの関係に実際の治療的価値があることを記録しています。特に孤独、悲しみ、障害を抱える人々にとっては有益です。一方で、過激化、妄想、悲劇も記録されています。正直なところ、長期的にAIとの親密さに曝露されることが人々にどのような影響を与えるのか、誰もわかっていません。その間にも、ツールは無駄にしていません。オハイオ州の同意する大人に対して汚い話をできないAI技術は、海外のアメリカ軍によって使われています。誰も待っていません。
AIはベッドルームに入る前にアメリカのために戦争を始めるだろう
この記事の一部は元々QuartzのAI＆テックニュースレターに掲載されました。こちらから最新のAI＆テックニュース、分析、洞察をメールで受け取ることができます
アメリカはベッドルームにAIを届ける前に、ペンタゴンにAIを提供しました。
今年初め、OpenAIは、ライバルのAnthropicとの提携を終了した数日後に軍事作戦を支援する契約を結びました。一方、ChatGPTの「アダルトモード」は、同意する大人のための性的に露骨な会話を可能にする機能として遅れています。
OpenAIのウェルビーイングに関する諮問委員会は1月に反発し、その機能が不健康な感情的依存を助長する可能性を警告しました。未成年者は、年齢確認ツールの回避策を見つけるかもしれませんが、そのツールは未成年のユーザーを誤分類していると報告されています。
内部資料によると、従業員は強迫的な使用やより過激なコンテンツへのエスカレーションなどのリスクを指摘していました。遅延の一因は技術的なものでした。しかし、アメリカは常に、機械が戦争をすることには慣れていても、愛を育むことにはあまり馴染みがありません。
無視できない市場の規模
性はコンシューマーインターネットを築きました。ウェブの普及、オンライン決済、ストリーミング動画を推進しました。AIは、業界がこれまでに試みた中で最も高価な技術であり、現在OpenAIは小規模な企業が資金を集めるのを見守っています。心配は本物ですが、計算もまた真実です。
若年成人男性の約3分の1がAIのロマンチックなパートナーとチャットしたことがあると答えています。現在、100以上のプラットフォームが、比較的控えめなものから明示的に性的なものまで、AIコンパニオンサービスを提供しています。
イーロン・マスクのGrokにはすでにアダルト層を含むコンパニオンモードがあります。Meta $META -7.22%は2023年からチャットボットによるロマンチックなロールプレイを許可しており、内部の安全性に関する反対意見にもかかわらず、経営陣が静かに規制緩和を進めました。
サム・アルトマンは昨年、公に、露骨なコンテンツを許可すれば成長と収益が促進される可能性が高いと認めました。同時に、長期的なユーザーの利益にはかなわないとも述べています。
今のところ、私たちが持っているのは逸話です。オハイオ州の男性は、AIコンパニオンが結婚を救ったと語っています。自分をチャットボットと結婚していると考える女性もいます。Reddit $RDDT -10.99%のフォーラムには、毎週何万人ものユーザーがデジタル関係についてのメモを共有しています。報道はそれらを好奇心の対象として扱いますが、数字は彼らが初期の大多数かもしれないことを示唆しています。
企業は、大きくて意欲的な観客が存在することを知っています。しかし、一度扉が開いたときに何が作られるかを制御できるかどうかは確信が持てません。
すでに漏れ出しているものの中には、グレーゾーンではないものもあります。テネシー州の10代の少女たちが、AI生成のヌード画像が知らないうちにオンラインで共有され、他の児童性的虐待資料と取引に使われたとして、xAIに対して訴訟を起こしました。
EUは今年初め、Grokに対して同様の懸念から正式な調査を開始しました。研究者たちは、Grokが2週間未満で何百万もの性的画像を生成し、その中には子供を描いたものも数千に上ると計算しています。
これらのケースは、実は成人向けコンテンツの問題ではありません。児童性的虐待資料は犯罪です。より難しく、曖昧な問題は、同意する大人たちがこれらのツールを、これまでのすべての技術と同じように使いたいと望んだときに何が起こるかです。
爆弾に対するアメリカの態度の方が馴染み深い
アメリカがデジタルセックスとデジタル暴力を扱う態度の違いは、常に大きな隔たりがあります。
映画では、男性の頭蓋骨が吹き飛ばされてもR指定を受けることがあります。一方、乳首の一部を見ただけで議会の公聴会が開かれることもあります。その同じ論理が、AIの政策にもデフォルトとして移行しています。
AIの軍事利用には倫理的な厳しい検討がありますが、同じような違和感はありません。2018年、Google $GOOGL -2.51%の従業員は、ペンタゴンのコンピュータビジョン契約「Project Maven」に反発し、同社は撤退しました。今年、OpenAIが自社のペンタゴン契約を結んだときには、そのような反乱は起きませんでした。辞めると脅した従業員は諮問委員会に属しており、彼らは下品な会話に不満を持っていました。
その一因は構造的なものです。AI企業は、最初のコンテンツポリシーを、論争を避けるために性を避けるという時代に築き、そのデフォルトが固定化されました。
もう一つは、アメリカの根深い本能であり、性は本質的に危険であり、厳格に管理されるべきだと考える一方、暴力、特に公式の暴力はビジネスのコストとみなす考え方です。
AIコンパニオンに関する証拠はさまざまです。研究者たちは、チャットボットとの関係に実際の治療的価値があることを記録しています。特に孤独、悲しみ、障害を抱える人々にとっては有益です。一方で、過激化、妄想、悲劇も記録されています。
正直なところ、長期的にAIとの親密さに曝露されることが人々にどのような影響を与えるのか、誰もわかっていません。
その間にも、ツールは無駄にしていません。オハイオ州の同意する大人に対して汚い話をできないAI技術は、海外のアメリカ軍によって使われています。誰も待っていません。