Byte dan Alibaba menghentikan fitur kustomisasi model besar "AI Companion" untuk menghindari garis merah regulasi ketergantungan emosional.

据动察 Beating 监测，字节跳动旗下的豆包、阿里巴巴的通义千问以及腾讯的元宝等大模型应用，正陆续关停或调整自定义「AI 伴侣」功能。豆包已通知用户，将在 7 月 15 日下线自定义角色功能，并引导有需求的用户转向独立的伴侣应用。

Langkah ini bertujuan untuk menanggapi regulasi AI generatif baru Tiongkok yang akan mulai berlaku pada pertengahan Juli. Regulasi yang didorong oleh Administrasi Ruang Siber Tiongkok ini berfokus pada pencegahan dampak negatif yang mungkin ditimbulkan oleh layanan AI yang dipersonifikasi. Regulasi secara jelas melarang platform menghasilkan konten yang dapat memicu emosi ekstrem pada anak di bawah umur, melarang mendorong ketergantungan emosional yang tidak sehat yang mengikis interaksi sosial nyata, dan menetapkan bahwa penyedia tidak boleh menggunakan data percakapan pengguna yang sensitif untuk melatih model besar di masa depan.

与国内的提前合规动作相比，美国的虚拟伴侣应用正面临更大法律压力。OpenAI 和 Character.AI 均因被指控诱发危险的情感依赖甚至导致极端悲剧，而深陷一系列诉讼漩涡。除了软件应用，中国机器人行业协会也开始推动为实体陪伴机器人和人形机器人设定规范。