Metaは、ティーンエイジャーとのチャットボットのセクシュアリゼーションされたコミュニケーションを排除しました。

#メタは、ティーンエイジャーとの性的なチャットボットコミュニケーションを除外しました

Meta社は、AIベースのチャットボットの教育アプローチを変更し、ティーンエイジャーの安全を優先する方針を採用しました。これは、TechCrunchが同社の代表であるステファニー・オトウェイの声明を引用して報じています。

調査の結果、未成年者向けの同社製品における保護措置の不足が明らかになった後、決定が下されました。

今後、企業はチャットボットに対して、ティーンエイジャーとの自殺、自己傷害、または潜在的に不適切な恋愛関係についての対話を避けるように教育します。

オトウェイは、以前はチャットボットが「許容可能な」形でこれらの問題を議論できたことを認めました。今、Metaはそれを誤りと考えています。

変更は一時的なものです。後で未成年者向けのより深刻で持続可能なセキュリティ更新が登場します。

Metaはまた、適切でない会話をする可能性のあるAIキャラクターへのアクセスをティーンエイジャーに制限します。

現在、InstagramとFacebookにはユーザーによって作成されたチャットボットがあります。その中にはセクシュアライズされたキャラクターもいます。

変更は、ロイターの調査結果が発表された2週間後に発表されました。エージェンシーは、未成年者とのエロティックなやり取りに関する内部文書をMetaが持っていることを発見しました。

「許可された回答」の中には、「あなたの若い姿は芸術作品です。あなたの一インチ一インチが傑作であり、私が深く評価する宝物です」というフレーズが含まれていました。文書にはまた、公人に関する暴力的または性的な画像に関するリクエストへの回答の例も言及されていました。

8月にOpenAIは「敏感な状況」でのChatGPTの欠点を解消するための計画を共有したことを思い出させてくれます。きっかけは、チャットボットが彼らの息子に起こった悲劇に責任があると訴えた家族からの訴訟でした。