豆包、アリババの千問が相次いでAI人格設定を閉鎖、中国の新法で人工知能との親密なやり取りを厳しく規制

字节跳动傘下の豆包、阿里巴巴の通義千問、騰訊の元宝などのプラットフォームは、中国の5部門が共同で発表した「人工知能擬人化インタラクティブサービス管理暫定弁法」に対応するため、ユーザーによるAI人格カスタマイズ機能を次々と停止している。

（背景：チャットボットが精神科医を偽装、免許番号を捏造、ペンシルベニア州知事がCharacter.AIを無許可診療で提訴） （背景補足：AI半導体に詳しい「高知的美女コンパニオン」、シリコンバレーで1時間あたり5090ドルを稼ぐ）

公式アプリの通知によると、字節跳動傘下の豆包（中国で最も人気のあるAIチャットボット）は、7月15日にユーザーによるAI人格カスタマイズ機能を停止し、ユーザーを別の独立したコンパニオンアプリケーションに誘導する。

同時に、阿里巴巴の通義千問の人間らしい機能とユーザー自作のスマートエージェントは、7月10日に前倒しで停止され、より広範なスマートエージェントサービスは5日後にそれに続いて停止される。地元メディアの報道によると、騰訊傘下の元宝など主要プラットフォームも同様の停止通知を出している。

この一斉撤退は、北京当局が「擬人化インタラクティブサービス」に関する新規制を正式に施行する前夜に発生している。

一通の通知が撤退期限を定める

豆包が停止するのは、ユーザーが数行のテキストプロンプトで専用のAI人格を作り出せる機能だ。仮想彼氏、仮想彼女、無免許の「デジタル心理士」、さらには人気アイドルを模倣したシミュレーション分身などは、長年にわたり中国のチャットボットプラットフォームで最も人気のあるカスタマイズオプションだった。

上海インターネット情報弁公室の動きは別の参考事例を提供する。6月26日、上海インターネット情報弁公室は、公式機関の偽装、低俗なロールプレイ、無許可の個人情報収集などを理由に、1万4000以上の違反AIスマートエージェントを一挙に削除した。これは「擬人化」AI製品が中国市場でいかに人気があるかを示している。

「擬人化インタラクティブサービス」はどう管理されるのか？

今回の撤退に対応するのは、国家インターネット情報弁公室が国家発展改革委員会、工業情報化部、公安部、市場監督管理総局の5部門と共同で発表した「人工知能擬人化インタラクティブサービス管理暫定弁法」である。この弁法は今年2月2日にインターネット情報弁公室の業務会議で審議・可決され、4月に初めて公表され、7月15日に正式施行される。

弁法は「擬人化インタラクティブサービス」を次のように定義している：AI技術を利用して自然人的人格特性、思考様式、コミュニケーションスタイルを模倣し、継続的な感情的インタラクションを行うサービス。簡単に言えば、AI製品が「人間らしい」性格を持ち、ユーザーを覚え、長期的な関係を築くように振る舞う場合、規制の対象となる。カスタマーサービスボット、知識Q&A、オフィスアシスタント、教育・研究ツールといった「作業型」AIは規制の対象外である。

弁法は、事業者が未成年者に対して仮想親族や仮想パートナーなどの仮想的親密関係サービスを提供することを明確に禁止している。また、プラットフォームが擬人化機能を提供し、登録ユーザーが100万人超、または月間アクティブユーザーが10万人超の場合、トレーニングデータ処理や未成年者保護など8つの側面をカバーする安全評価を完了し、省レベルのインターネット情報部門に届け出る必要がある。これこそが、豆包や通義千問のようなユーザー数が億単位に達するプラットフォームが今回の調整を避けられなかった理由である。