Doubao e Alibaba Qwen estão a desativar as definições de personalidade da IA, nova lei chinesa regula rigorosamente as interações íntimas com inteligência artificial.

As plataformas Doubao da ByteDance, Tongyi Qianwen da Alibaba, Yuanbao da Tencent, entre outras, estão a desativar a funcionalidade de personalização de personalidade AI pelos utilizadores, em resposta ao «Regulamento Provisório para a Gestão de Serviços de Interação Antropomórfica com Inteligência Artificial» publicado conjuntamente por cinco departamentos chineses. (Nota anterior: Chatbots a fazer-se passar por psiquiatras, a inventar números de licença, o governador da Pensilvânia processa a Character.AI por exercício ilegal da medicina) (Contexto adicional: «Acompanhante de beleza intelectual» que percebe de semicondutores AI ganha uma 5090 por hora em Silicon Valley) De acordo com uma notificação oficial da aplicação, o Doubao da ByteDance, atualmente o chatbot AI mais popular na China, irá desativar a funcionalidade de personalização de personalidade AI pelos utilizadores a 15/7, redirecionando os utilizadores para uma aplicação de companhia separada. Ao mesmo tempo, as funcionalidades antropomórficas do Tongyi Qianwen da Alibaba e os agentes inteligentes criados pelos utilizadores serão desativados antecipadamente a 10 de julho, com serviços de agentes mais amplos a seguirem cinco dias depois; segundo relatos da comunicação social local, a Tencent e outras plataformas principais como o Yuanbao também emitiram avisos de desativação semelhantes. Esta ronda de encerramentos coletivos ocorre na véspera da entrada em vigor das novas regras de Pequim sobre «serviços de interação antropomórfica».

Um aviso define o prazo de saída

O que o Doubao desativa é a funcionalidade que permite aos utilizadores criar uma personalidade AI exclusiva com apenas algumas instruções de texto: namorados virtuais, namoradas virtuais, «psicólogos digitais» sem licença, e até avatares simulados que imitam ídolos pop, que há muito são as opções de personalização mais populares nas plataformas de chatbot chinesas. A ação do Gabinete de Cibersegurança de Xangai fornece outra referência: a 26 de junho, o gabinete removeu mais de 14.000 agentes AI irregulares de uma só vez, por motivos como a suplantação de entidades oficiais, roleplay obsceno e recolha não autorizada de dados pessoais. Isto demonstra a popularidade dos produtos AI «antropomórficos» no mercado chinês.

Como gerir os «serviços de interação antropomórfica»?

Esta ronda de retirada corresponde ao «Regulamento Provisório para a Gestão de Serviços de Interação Antropomórfica com Inteligência Artificial» publicado conjuntamente pelo Gabinete Nacional de Cibersegurança, a Comissão Nacional de Desenvolvimento e Reforma, o Ministério da Indústria e Tecnologia da Informação, o Ministério da Segurança Pública e a Administração Estatal de Regulação do Mercado. O regulamento foi aprovado na reunião executiva do Gabinete de Cibersegurança a 2 de fevereiro deste ano, divulgado publicamente pela primeira vez em abril, e entra em vigor a 15 de julho. O regulamento define «serviços de interação antropomórfica» como serviços que utilizam tecnologia AI para simular as características de personalidade, padrões de pensamento e estilos de comunicação de pessoas naturais, realizando interações emocionais contínuas. Simplificando, desde que um produto AI finja uma personalidade «semelhante à humana», se lembre de si e o acompanhe na construção de relações a longo prazo, cai sob a jurisdição; os chatbots de apoio ao cliente, perguntas e respostas de conhecimento, assistentes de escritório, ferramentas educacionais e de investigação, como AI «fazedora», não são abrangidos. O regulamento proíbe explicitamente os operadores de fornecer serviços de relações íntimas virtuais, como familiares virtuais e parceiros virtuais, a menores. Além disso, sempre que uma plataforma ativar funcionalidades antropomórficas, tiver mais de 1 milhão de utilizadores registados ou mais de 100.000 utilizadores ativos mensais, deve concluir uma avaliação de segurança que abranja 8 áreas, incluindo o tratamento de dados de treino e a proteção de menores, e registar-se junto do departamento provincial de cibersegurança. Esta é a razão pela qual plataformas como o Doubao e o Tongyi Qianwen, com centenas de milhões de utilizadores, não podem evitar este ajuste.