A ByteDance e a Alibaba estão gradualmente a descontinuar algumas funcionalidades de companhia por IA, especialmente serviços que permitem aos utilizadores criar, personalizar e conversar com personagens de IA personalizadas, em resposta às mais recentes exigências regulatórias de Pequim.

Segundo o South China Morning Post, a Doubao, da ByteDance, uma das chatbots mais populares da China atualmente, com mais de 300 milhões de utilizadores ativos mensais, irá encerrar oficialmente a sua função de "personalidade" a 15 de julho. A Qwen, da Alibaba, agiu mais cedo, descontinuando algumas funcionalidades de agentes antropomórficos a 10 de julho e encerrando mais funcionalidades relacionadas a 15 de julho. A Tencent Yuanbao já tinha adotado ajustes semelhantes em junho.
A impulsionar estas mudanças está um novo regulamento emitido em abril pela Administração do Ciberespaço da China, que entrará em vigor a 15 de julho. O regulamento exige que as plataformas alertem os utilizadores sobre o uso excessivo de produtos de companhia por IA e intervenham ativamente quando detetarem tendências de dependência. Além disso, para menores, será proibido conteúdo que possa desencadear emoções extremas, reforçar relações de dependência ou até mesmo prejudicar as relações sociais reais. As plataformas também não podem utilizar dados de conversas sensíveis para treinar modelos.
Na verdade, o aperto regulatório sobre produtos de companhia por IA não ocorre apenas na China. A Califórnia, nos EUA, já exige, de acordo com o projeto de lei SB 243, que os fornecedores de serviços de companhia por AI bloqueiem conteúdo de conversas relacionado a suicídio e automutilação. Nos EUA, a OpenAI e a Character AI enfrentam processos judiciais relacionados, com o foco da controvérsia na possibilidade de os produtos de IA criarem dependência emocional perigosa.