バイトダンス（ByteDance）とアリババは、北京が新たに発した規制要件に対応するため、AIコンパニオン機能の一部、特にユーザーがパーソナライズされたAIキャラクターを作成、カスタマイズし、チャットできるサービスを順次停止している。

香港紙「サウスチャイナ・モーニング・ポスト」の報道によると、バイトダンス傘下の豆包（Doubao）は、中国で現在最も人気のあるチャットボットの一つであり、月間アクティブユーザー数は3億を超える。その「キャラクター設定（人設）」機能は7月15日に正式に停止される。アリババ傘下のQwenはより早く動き、7月10日に一部の擬人化エージェント機能を停止し、7月15日にはさらに多くの関連エージェント機能を閉鎖する。テンセントの元宝（Yuanbao）は6月の時点ですでに同様の調整を行っている。
これらの変更を推進したのは、中国国家インターネット情報弁公室（網信弁）が4月に発表した新規制であり、この規制は7月15日に正式に発効する。新規制は、プラットフォームに対し、ユーザーがAIコンパニオン製品を過度に使用している場合に注意を促し、依存傾向が見られた場合には積極的に介入することを義務付けている。同時に、未成年者に対しては、極端な感情を引き起こしたり、依存関係を強化したり、現実の社会的関係を圧迫する可能性のあるコンテンツが禁止される。さらに、プラットフォームはセンシティブな会話データをモデルトレーニングに使用してはならない。
実際、AIコンパニオン製品に対する規制強化は中国だけに限ったことではない。米カリフォルニア州は既にSB 243法案に基づき、AIコンパニオンサービスプロバイダーに対し、自殺や自傷行為に関する会話内容をブロックするよう義務付けている。米国では、OpenAIとCharacter AIも関連訴訟に直面しており、論点はAI製品が危険な感情依存を引き起こす可能性があるかどうかに集中している。