ByteDance та Alibaba поступово вимикають деякі функції AI-компаньйонів, зокрема сервіси, що дозволяють користувачам створювати, налаштовувати та спілкуватися з персоналізованими AI-персонажами, у відповідь на нові регуляторні вимоги з боку Пекіна.

За повідомленням South China Morning Post, Doubao від ByteDance, один із найпопулярніших чат-ботів у Китаї з понад 300 мільйонами активних користувачів на місяць, офіційно вимкне свою функцію "персонаж" 15 липня. Alibaba зі своїм Qwen діяла раніше — 10 липня вона вимкне частину функцій антропоморфних агентів, а 15 липня закриє більше відповідних функцій. Tencent Yuanbao вже вжив подібних заходів ще в червні.
Рушієм цих змін є нові правила, опубліковані в квітні Державним управлінням кіберпростору Китаю, які набудуть чинності 15 липня. Нові правила вимагають від платформ попереджати користувачів про надмірне використання продуктів AI-компаньйонів та активно втручатися, якщо виявлено ознаки залежності. Крім того, для неповнолітніх забороняється контент, який може викликати екстремальні емоції, посилювати залежність або навіть витісняти реальні соціальні зв'язки. Також платформам заборонено використовувати чутливі діалогові дані для тренування моделей.
Насправді посилення регулювання продуктів AI-компаньйонів відбувається не лише в Китаї. У Каліфорнії (США) на основі закону SB 243 від провайдерів AI-компаньйонів вимагають блокувати діалоги, що стосуються самогубств та самоушкодження. У США OpenAI та Character AI також стикаються з позовами, де спірним питанням є те, чи можуть AI-продукти створювати небезпечну емоційну залежність.