バイトダンスとアリババ、大規模言語モデル「AIコンパニオン」のカスタマイズ機能を停止、感情的依存の規制ラインを回避

動察 Beatingの監視によると、ByteDance傘下の豆包、Alibabaの通義千問、Tencentの元宝などの大規模言語モデルアプリケーションは、順次カスタム「AIコンパニオン」機能を停止または調整している。豆包はユーザーに通知し、7月15日にカスタムキャラクター機能を廃止し、必要なユーザーを独立したコンパニオンアプリに誘導する。

この措置は、7月中旬に発効予定の中国の生成AI新規制に対応するためのものである。新規制は国家インターネット情報弁公室が推進し、擬人化AIサービスが引き起こす可能性のある悪影響を重点的に防止する。新規制は、プラットフォームが未成年者の極端な感情を誘発する可能性のあるコンテンツを生成することを明確に禁止し、現実の社会的交流を侵食する病的な感情的依存をユーザーに誘導することを禁止し、提供者が将来の大規模モデルを訓練するためにユーザーの対話データを使用することを禁止している。

国内の事前コンプライアンス措置と比較して、米国のバーチャルコンパニオンアプリはより大きな法的圧力に直面している。OpenAIとCharacter.AIは、危険な感情的依存を誘発し、極端な悲劇を引き起こしたとして告発され、一連の訴訟の渦中にある。ソフトウェアアプリケーションに加えて、中国ロボット工業協会は、実体の伴侶ロボットや人型ロボットの規範を設定する取り組みも開始している。