豆包、阿里千问纷纷关闭AI人格设定，中国新法严管人工智能亲密互动。

Платформы, такие как Doubao от ByteDance, Tongyi Qianwen от Alibaba и Yuanbao от Tencent, одна за другой закрывают функцию настройки пользователями AI-персонажей в соответствии с «Временными мерами по управлению услугами антропоморфного интерактивного ИИ», совместно опубликованными пятью ведомствами Китая.

(Предыстория: Чат-бот, выдававший себя за психиатра и подделавший номер лицензии, губернатор Пенсильвании подал в суд на Character.AI за незаконную врачебную практику) (Дополнительный контекст: «Умная красавица-компаньонка», разбирающаяся в AI и полупроводниках, зарабатывает в Кремниевой долине 5090 долларов в час)

Согласно уведомлению из официального приложения, Doubao от ByteDance, самый популярный AI-чат-бот в Китае, закроет 15 июля функцию создания пользовательских AI-персонажей, направляя пользователей в другое независимое приложение-компаньон.

В то же время, функции очеловечивания и пользовательские интеллектуальные агенты в Tongyi Qianwen от Alibaba будут отключены досрочно 10 июля, а более широкий набор сервисов интеллектуальных агентов закроется через пять дней; согласно сообщениям местных СМИ, аналогичные уведомления о прекращении работы выпустили и крупные платформы, такие как Yuanbao от Tencent.

Эта массовая остановка происходит накануне вступления в силу нового постановления пекинских властей, касающегося «услуг антропоморфного взаимодействия».

Одно уведомление устанавливает сроки прекращения

Doubao закрывает функцию, позволяющую пользователям с помощью нескольких текстовых подсказок создавать собственного AI-персонажа: виртуальные парни, виртуальные девушки, «цифровые психологи» без лицензии и даже симуляционные копии популярных кумиров — всё это долгое время было самыми популярными вариантами настройки на китайских чат-бот-платформах.

Действия Шанхайского управления интернет-информации дают ещё один ориентир: 26 июня Шанхайское управление интернет-информации удалило более 14 000 нелегальных AI-агентов, включая те, что выдавали себя за официальные органы, вели низкопробные ролевые игры и незаконно собирали личные данные. Это демонстрирует популярность «антропоморфных» AI-продуктов на китайском рынке.

Как регулируются «услуги антропоморфного взаимодействия»?

Эта волна закрытий соответствует «Временным мерам по управлению услугами антропоморфного интерактивного ИИ», совместно опубликованным Государственным управлением интернет-информации совместно с пятью ведомствами: Государственным комитетом по развитию и реформам, Министерством промышленности и информатизации, Министерством общественной безопасности и Управлением по регулированию рынка. Данный документ был одобрен на заседании Управления интернет-информации 2 февраля этого года, впервые опубликован в апреле и вступает в силу 15 июля.

Меры определяют «услуги антропоморфного взаимодействия» как услуги, использующие AI-технологии для имитации личностных характеристик, моделей мышления и стилей общения естественного человека, с целью непрерывного эмоционального взаимодействия. Проще говоря, если AI-продукт имитирует «человеческие» черты, запоминает вас и сопровождает в долгосрочных отношениях, он подпадает под регулирование; AI, выполняющие задачи (служебные чат-боты, ответы на вопросы, офисные ассистенты, образовательные и научные инструменты), не регулируются.

Меры прямо запрещают предоставлять несовершеннолетним услуги виртуальных родственников, виртуальных партнёров и другие формы виртуальных близких отношений. Кроме того, если платформа запускает антропоморфные функции, имеет более 1 миллиона зарегистрированных пользователей или более 100 тысяч активных пользователей в месяц, она должна пройти оценку безопасности, охватывающую 8 аспектов, включая обработку обучающих данных и защиту несовершеннолетних, а также зарегистрироваться в провинциальном управлении интернет-информации. Именно поэтому такие платформы, как Doubao и Tongyi Qianwen, с сотнями миллионов пользователей, не смогли избежать этой корректировки.