字节跳动和阿里巴巴正在陆续下线部分 AI 陪伴类功能，尤其是允许用户创建、定制并与个性化 AI 角色聊天的相关服务，以回应北京方面最新出台的监管要求。

据《南华早报》报道，字节跳动旗下豆包作为中国目前最受欢迎的聊天机器人之一，月活用户已超过 3 亿，其“人设”功能将于 7 月 15 日正式下线。阿里巴巴旗下 Qwen 则更早行动，将于 7 月 10 日下线部分拟人化智能体功能，并在 7 月 15 日关闭更多相关智能体功能。腾讯元宝早在 6 月就已经采取了类似调整。
推动这些变化的，是中国国家网信办在 4 月发布的新规，该规定将于 7 月 15 日正式生效。新规要求平台方对用户过度使用 AI 陪伴产品进行提醒，并在发现用户出现沉迷倾向时主动干预。同时，针对未成年人，可能引发极端情绪、强化依赖关系，甚至挤压现实社交关系的内容将被禁止。此外，平台也不得使用敏感对话数据进行模型训练。
事实上，AI 陪伴产品的监管收紧并不只发生在中国。美国加州也已根据 SB 243 法案，要求 AI 陪伴类服务商屏蔽涉及自杀和自残的对话内容。在美国，OpenAI 与 Character AI 也正面临相关诉讼，争议焦点集中在 AI 产品是否可能造成危险的情感依赖。