Fórum de Boao discute o primeiro ano de agentes de IA inteligente: por trás do crescimento, riscos e governança tornam-se os novos focos

O diretor do Instituto de Informação e Comunicação da China, Yu Xiaohui, afirmou que as empresas e consumidores comuns estão dispostos a experimentar novas tecnologias, mas também é necessário estabelecer mais compreensão e respeito por elas.

“Este ano, surgiram três grandes tendências em IA: primeiro, a transição da IA generativa para a IA de agentes inteligentes, com uma explosão de agentes voltados ao consumidor, sendo este o ano de ouro da IA de agentes inteligentes. Segundo, a inteligência está passando de inteligência informacional para inteligência física e biológica, com robôs e veículos autônomos também pertencendo à IA física. Terceiro, a transição da IA para ‘IA+’, ou seja, a sua incorporação em todos os setores e indústrias.” No painel de discussão sobre “AI+” e a digitalização na atualização industrial, realizado na Fórum de Boao em 25 de março, Zhang Yaqin, acadêmico da Academia Chinesa de Engenharia, professor titular na Universidade Tsinghua e diretor do Instituto de Indústria Inteligente da Universidade Tsinghua, fez sua mais recente avaliação.

Foi justamente a inteligência representada pelo “OpenClaw” (Caranguejo de Lagosta) que desencadeou a primeira onda de aplicações de IA em 2026, não apenas abrindo as portas para o ano de ouro da IA de agentes, mas também tornando mais possível a integração da IA em diversas indústrias.

Alguns especialistas observaram que o interesse dos usuários domésticos por novas aplicações de IA está particularmente elevado. Yu Xiaohui, diretor do Instituto de Informação e Comunicação da China, comentou no fórum que a aceitação da China por tecnologias digitais, incluindo IA, é muito alta, e que empresas e consumidores comuns estão curiosos e dispostos a experimentar novas tecnologias, o que traz grande vitalidade ao desenvolvimento da economia digital e da IA na China.

A utilização aprofundada da IA também oferece novas oportunidades para discutir seus impactos e riscos. Segundo vários especialistas acadêmicos e do setor, já é possível observar mudanças nos paradigmas de desenvolvimento tecnológico causadas pela IA. Ao mesmo tempo, novos riscos associados à IA estão surgindo, trazendo questões que precisam ser discutidas.

A professora da Universidade de Ciências Sociais da China e ex-secretária-adjunta do Conselho de Estado, Jiang Xiajuan, observou que a inovação tradicional ocorre quando cientistas descobrem leis científicas, departamentos tecnológicos desenvolvem tecnologias avançadas e a indústria realiza a sua transformação. Com a mudança na descoberta de novas leis e tecnologias para elementos como algoritmos, dados, plataformas e grandes investimentos, a indústria na ponta da inovação e o desenvolvimento de tecnologias de ponta tornaram-se os principais atores. “Antes de 2014, cerca de 60% dos maiores modelos de ponta eram desenvolvidos por universidades; após 2014, 90% eram desenvolvidos por grandes plataformas empresariais. Nesta era, a posição da indústria e das empresas na inovação é incomparável com qualquer outro momento.”

No entanto, a indústria de IA, centrada na indústria e nas empresas, também gera novos riscos à medida que produz inovação e atrai usuários.

Tomando como exemplo o “Lagosta”, Yu Xiaohui também afirmou que, em certo grau, na China, talvez subestimemos os desafios de segurança que a IA pode trazer. Quando usamos “Lagosta”, raramente consideramos se há riscos de controle irrestrito. “Em fevereiro, monitoramos esses riscos no Instituto de Informação e Comunicação da China, mas não divulgamos publicamente, nem prevíamos a repercussão tão intensa na sociedade. Quando se tornou uma tecnologia amplamente difundida no país, então divulgamos as informações relacionadas.” Yu Xiaohui acrescentou que trabalhos futuros também considerarão se, ao reconhecer o valor de uma tecnologia com riscos potenciais, seria melhor divulgar esses riscos à sociedade mais cedo.

“Também é importante estabelecer mais compreensão e respeito pelas novas tecnologias, além de considerar aspectos básicos de segurança. Para uma organização ou empresa, a capacidade de governança de segurança no futuro será especialmente importante, e os fornecedores de IA têm uma grande responsabilidade de reforçar a segurança.” Yu Xiaohui afirmou que o Instituto de Informação e Comunicação da China está promovendo compromissos de segurança e divulgação por parte das principais empresas de IA no país.

Outros participantes também perceberam diferentes aspectos dos riscos da IA. Sam Dost, conselheiro sênior do Iniciativa de Governança de Inteligência Artificial da Universidade de Oxford e diretor de IA multilateral, mencionou três tipos de riscos: o risco de criminosos utilizarem IA para ataques cibernéticos, o risco de IA descontrolada causar acidentes e riscos sistêmicos ou sociais, como a substituição de força de trabalho. “O que aconteceria se agentes inteligentes como ‘Lagosta’ começassem a interagir entre si?” Ele exemplificou ao falar sobre o risco de acidentes, uma questão que merece reflexão.

Zhang Yaqin acredita que, além de a IA precisar de identificação de conteúdo, os agentes inteligentes também devem ter entidades rastreáveis, responsáveis por elas, e que os agentes não devem gerar ou repetir a si próprios. Ele também mencionou que a IA apresenta um grande risco: quando 65% do conteúdo na internet é gerado por IA, e esse conteúdo é contaminado e utilizado para treinar modelos, os próprios modelos também ficam contaminados. Resolver esse problema é uma tarefa urgente. Esses riscos exigem colaboração entre cientistas, engenheiros, empresários e formuladores de políticas.

Jiang Xiajuan acrescentou que, embora organizações internacionais tenham proposto várias diretrizes de governança de IA, elas não avaliam se esses requisitos são atendidos sob uma perspectiva de ciências sociais. “Proponho três padrões de ‘bondade’: um deles é a razoabilidade, que pode ser avaliada pelo crescimento econômico, aumento do bem-estar social e justiça na distribuição. Vemos que o crescimento econômico e o bem-estar social aumentaram, mas a questão da justiça social ainda não foi bem resolvida, e a riqueza pode estar se concentrando em poucos inovadores.”

Na noite do mesmo dia, na noite de Finanças do Sina, em Boao, Wu Xiaoqiu, ex-vice-reitor da Universidade Popular da China, diretor do Instituto de Finanças Nacionais e professor de nível nacional, também abordou o risco de concentração de riqueza causado pela IA. Ele afirmou que, com o crescimento de empresas de alta tecnologia centradas em IA, a concentração de riqueza na sociedade está acelerando. No país, é comum surgirem bilionários em poucos meses, algo impensável anteriormente. “Por um lado, não devemos tomar medidas para restringir essa concentração de riqueza, mas as políticas devem incentivar os inovadores e os agentes de mudança. Por outro lado, uma grande disparidade de riqueza também não é desejável. Em uma era assim, é necessário fortalecer funções de redistribuição secundária e transferências de renda, e o governo pode precisar destinar mais recursos a essas áreas.”

Jiang Xiajuan também mencionou que os critérios de “bondade” da IA incluem também a adequação e a conformidade. Quanto à adequação, a IA oferece muitas utilidades aos consumidores. Quanto à conformidade, quando o modelo científico evolui do reconhecimento de leis naturais para a criação de novas estruturas sociais e sociais, é importante que as pessoas possam julgar se isso é necessário. Cada indivíduo deve ter a oportunidade de expressar sua opinião, formando padrões de julgamento público.