ByteDance e Alibaba estão desativando gradualmente algumas funcionalidades de companhia de IA, especialmente serviços que permitem que os usuários criem, personalizem e conversem com personagens de IA personalizados, em resposta às novas exigências regulatórias de Pequim.

Segundo o "South China Morning Post", o Doubao, da ByteDance, um dos chatbots mais populares da China atualmente, com mais de 300 milhões de usuários ativos mensais, terá sua função de "personalidade" desativada oficialmente em 15 de julho. Já o Qwen, da Alibaba, agiu mais cedo, desativando algumas funções de agentes antropomórficos em 10 de julho e fechando mais funções de agentes relacionadas em 15 de julho. O Tencent Yuanbao já havia adotado ajustes semelhantes em junho.
O que impulsiona essas mudanças é uma nova regulamentação divulgada pelo Gabinete de Informação Cibernética da China em abril, que entrará em vigor em 15 de julho. A nova regulamentação exige que as plataformas alertem os usuários sobre o uso excessivo de produtos de companhia de IA e intervenham ativamente quando detectarem tendências de dependência. Além disso, para menores de idade, conteúdos que possam causar emoções extremas, reforçar dependência ou até mesmo prejudicar relacionamentos sociais reais serão proibidos. As plataformas também não podem usar dados de conversas sensíveis para treinamento de modelos.
Na verdade, o aperto regulatório sobre produtos de companhia de IA não ocorre apenas na China. A Califórnia, nos Estados Unidos, também já exige, com base no projeto de lei SB 243, que os provedores de serviços de companhia de IA bloqueiem conteúdos de conversas relacionados a suicídio e automutilação. Nos EUA, OpenAI e Character AI também enfrentam processos judiciais relacionados, com o foco da controvérsia na possibilidade de produtos de IA causarem dependência emocional perigosa.