ByteDance e Alibaba desativam função personalizada de "AI Companion" em grandes modelos, evitando a linha vermelha regulatória de dependência emocional.

Segundo o monitoramento do Dongcha Beating, aplicativos de modelos de grande escala como o Doubao da ByteDance, o Tongyi Qianwen da Alibaba e o Yuanbao da Tencent estão gradualmente desativando ou ajustando a função personalizada de "companheiro de IA". O Doubao já notificou os usuários que desativará a função de personagens personalizados em 15 de julho e orientará os usuários interessados para um aplicativo de companheiro independente.

Essa medida visa atender às novas regulamentações chinesas de IA generativa que entrarão em vigor em meados de julho. As novas regras, promovidas pelo Escritório de Administração Cibernética da China, concentram-se em prevenir os impactos negativos que os serviços de IA antropomorfizada podem causar. As regulamentações proíbem explicitamente as plataformas de gerar conteúdo que possa desencadear emoções extremas em menores, proíbem induzir os usuários a desenvolver dependência emocional patológica que corroa a interação social real, e determinam que os provedores não usem dados sensíveis de conversas de usuários para treinar futuros modelos de grande escala.

Em comparação com as ações de conformidade preventiva na China, os aplicativos de companheiros virtuais nos Estados Unidos estão enfrentando maior pressão legal. OpenAI e Character.AI estão envolvidos em uma série de processos judiciais por serem acusados de induzir dependência emocional perigosa, levando até mesmo a tragédias extremas. Além dos aplicativos de software, a Associação Chinesa da Indústria de Robótica também começou a promover o estabelecimento de normas para robôs de companhia físicos e robôs humanoides.