ByteDance e Alibaba desativam funções personalizadas de "companheiro de IA" em grandes modelos, evitando a linha vermelha regulatória de dependência emocional.

De acordo com a monitorização do Beating, as aplicações de grandes modelos como Doubao da ByteDance, Tongyi Qianwen da Alibaba e Yuanbao da Tencent estão a desativar ou ajustar gradualmente a função de 'companheiro de IA' personalizada. A Doubao já notificou os utilizadores de que irá descontinuar a função de personagem personalizada a 15 de julho e orientará os utilizadores que necessitam para aplicações de companheiro independentes.

Esta medida visa responder às novas regulamentações chinesas de IA generativa que entrarão em vigor em meados de julho. As novas regras, impulsionadas pelo Gabinete de Informação da Internet da China, focam-se na prevenção de impactos negativos que os serviços de IA antropomórfica possam causar. As novas regras proíbem explicitamente as plataformas de gerar conteúdo que possa desencadear emoções extremas em menores, proíbem induzir os utilizadores a desenvolver dependências emocionais patológicas que corroem a socialização real, e estipulam que os fornecedores não podem utilizar dados sensíveis de conversas dos utilizadores para treinar futuros grandes modelos.

Em comparação com as ações de conformidade antecipada na China, as aplicações de companheiro virtual nos EUA enfrentam maior pressão legal. A OpenAI e a Character.AI estão envolvidas numa série de litígios por terem sido acusadas de induzir dependências emocionais perigosas, levando até a tragédias extremas. Além das aplicações de software, a Associação da Indústria de Robótica da China também começou a promover a definição de normas para robôs de companhia físicos e robôs humanoides.