ByteDance и Alibaba поэтапно отключают некоторые функции AI-компаньонов, особенно сервисы, позволяющие пользователям создавать, настраивать и общаться с персонализированными AI-персонажами, в ответ на новые нормативные требования Пекина.

Согласно сообщению South China Morning Post, Doubao от ByteDance, один из самых популярных чат-ботов в Китае с ежемесячной аудиторией более 300 миллионов пользователей, официально отключит функцию «личность» 15 июля. Qwen от Alibaba действует быстрее: он отключит часть функций антропоморфных агентов 10 июля и закроет ещё больше связанных функций агентов 15 июля. Tencent Yuanbao уже предпринял аналогичные корректировки в июне.

Движущей силой этих изменений стали новые правила, опубликованные Государственным управлением по делам Интернета Китая в апреле, которые вступят в силу 15 июля. Новые правила требуют от платформ предупреждать пользователей о чрезмерном использовании AI-компаньонов и активно вмешиваться при обнаружении признаков зависимости. Кроме того, для несовершеннолетних будет запрещён контент, который может вызвать экстремальные эмоции, усилить зависимость или даже вытеснить реальные социальные отношения. Также платформам запрещается использовать чувствительные данные из диалогов для обучения моделей.

Фактически, ужесточение регулирования AI-компаньонов происходит не только в Китае. В штате Калифорния (США) в соответствии с законом SB 243 от поставщиков AI-компаньонов требуется блокировать диалоги, связанные с суицидом и самоповреждением. В США OpenAI и Character AI сталкиваются с судебными исками, где спор сосредоточен на том, могут ли AI-продукты вызывать опасную эмоциональную зависимость.