ByteDance та Alibaba закривають кастомні функції великої моделі «AI Companion»

6 липня повідомляється, що великі моделі додатків, такі як Doubao від ByteDance, Tongyi Qianwen від Alibaba та Yuanbao від Tencent, поступово припиняють або змінюють функцію налаштовуваного «AI компаньйона». Doubao вже повідомив користувачам, що 15 липня буде вимкнено функцію налаштовуваних персонажів, і скеровує зацікавлених користувачів до окремих додатків-компаньйонів.

Цей крок спрямований на відповідь новим китайським правилам щодо генеративного ШІ, які набудуть чинності в середині липня. Нові правила, просувані Державним управлінням кіберпростору Китаю, зосереджені на запобіганні негативним наслідкам, які можуть спричинити антропоморфні послуги ШІ. Правила чітко забороняють платформам генерувати контент, який може викликати екстремальні емоції у неповнолітніх, забороняють спонукати користувачів до нездорової емоційної залежності, що підриває реальне соціальне життя, і встановлюють, що постачальники не можуть використовувати чутливі дані розмов користувачів для навчання майбутніх великих моделей.

Порівняно з превентивними заходами відповідності в Китаї, американські додатки віртуальних компаньйонів стикаються з більшим юридичним тиском. OpenAI та Character.AI опинилися в центрі серії судових позовів через звинувачення у спричиненні небезпечної емоційної залежності, що призвела навіть до трагічних випадків. Крім програмних додатків, Китайська асоціація робототехніки також почала просувати встановлення норм для фізичних роботів-компаньйонів та гуманоїдних роботів.