Байт и Alibaba отключают функцию настройки «AI-компаньона» большой языковой модели, чтобы избежать нарушения регулирования эмоциональной зависимости.

Согласно мониторингу Beating, приложения больших моделей, такие как Doubao от ByteDance, Tongyi Qianwen от Alibaba и Yuanbao от Tencent, последовательно закрывают или корректируют функцию настраиваемого «AI-компаньона». Doubao уведомил пользователей, что 15 июля будет отключена функция настраиваемых персонажей, а нуждающимся предлагается перейти на отдельные приложения-компаньоны.

Этот шаг направлен на соблюдение новых китайских правил в области генеративного ИИ, которые вступят в силу в середине июля. Новые правила, продвигаемые Государственным интернет-информационным офисом Китая, направлены на предотвращение негативных последствий, которые могут возникнуть из-за антропоморфизированных AI-сервисов. Правила прямо запрещают платформам генерировать контент, который может вызывать крайние эмоции у несовершеннолетних, запрещают подталкивать пользователей к патологической эмоциональной зависимости, подрывающей реальные социальные связи, и предписывают провайдерам не использовать конфиденциальные пользовательские диалоговые данные для обучения будущих больших моделей.

По сравнению с упреждающими действиями по соблюдению правил в Китае, виртуальные приложения-компаньоны в США сталкиваются с большим юридическим давлением. OpenAI и Character.AI оказались втянутыми в серию судебных исков из-за обвинений в провоцировании опасной эмоциональной зависимости и даже трагических последствий. Помимо программных приложений, Китайская ассоциация робототехники также начала продвигать установление стандартов для физических роботов-компаньонов и человекоподобных роботов.