Opinião de especialistas em finanças | Jiang Xiaojun fala sobre IA para o bem: o que é o bem, como praticá-lo, quem deve praticá-lo

Texto por / Professor da Universidade da Academia de Ciências Sociais da China, ex-Secretário-Geral do Conselho de Estado Jiang Xiaojun

Introdução: Recentemente, a Conferência Académica de Desenvolvimento e Governação da Economia Digital da China 2026 (Chongqing) foi realizada com sucesso na Universidade de Direito do Sudoeste. A professora Jiang Xiaojun, professora da Universidade da Academia de Ciências Sociais da China e ex-Secretária-Geral do Conselho de Estado, fez uma palestra principal intitulada «AI para o bem: o que é o bem, como alcançá-lo, quem o realiza».

Jiang Xiaojun considera que já há muitas discussões sobre “AI para o bem”, com um alto grau de consenso na concepção, mas há pouca discussão sobre como concretizar e quem deve implementar esses “bens”. É necessário colocar essa questão dentro do sistema de conhecimento das ciências sociais para análise e discussão.

O que é o bem: uma perspetiva das ciências sociais

Durante muito tempo, já houve muitas discussões sobre a direção do AI para o bem, com um alto grau de consenso na concepção. Por exemplo, desde o Relatório de Ética dos Robôs publicado pela UNESCO em 2016 (Preliminary Draft Report of COMEST on Robotics Ethics) até a Cúpula de Ação de AI em Paris em 2025, há um alto consenso sobre os princípios de governança da IA.

Conceitos como segurança, transparência, não-discriminação, interpretabilidade, rastreabilidade, justiça, inclusão, respeito à privacidade, partilha de benefícios, centramento no humano, controlo humano, entre outros, são repetidamente discutidos. Contudo, há pouca discussão sobre como concretizar e quem deve executar esses “bens”. Geralmente, essas discussões são conduzidas pelas empresas envolvidas e pelos grupos técnicos relacionados, dentro de um quadro de “alinhamento”, de forma unilateral e variável, faltando estabilidade geral.

Sinto que é necessário colocar essa questão no sistema de conhecimento das ciências sociais, pois o conceito amplo de “bem” é precisamente o tema e objetivo de muitas pesquisas sociais. A questão de se a tecnologia é ou não benevolente depende fundamentalmente de se ela promove o desenvolvimento económico, o progresso social e a felicidade do povo, ou seja, se ela aumenta o bem-estar humano.

As ciências sociais não apenas podem propor caminhos conceituais para o bem, mas também possuem uma base académica e capacidade teórica para estabelecer padrões de avaliação, caminhos de implementação e atores responsáveis.

1

Razão é o bem: alocação eficiente de recursos, aumento do bem-estar social e distribuição justa

“Razão” é um conceito central na economia, que define como “melhorar a eficiência na alocação de recursos, aumentar o bem-estar social e promover uma distribuição relativamente justa” como sendo racional.

Sob esse objetivo, a economia possui critérios e indicadores claros de avaliação: aumento da produtividade total dos fatores, melhoria na relação entre investimento e retorno, crescimento da renda, estímulo ao investimento em inovação, entre outros, que medem a eficiência na alocação de recursos; melhorias na educação e saúde, fortalecimento do sistema de proteção social, que medem o aumento do bem-estar social. Com base nesses indicadores, a IA contribui claramente para o aumento da produtividade e do bem-estar social, tornando-se uma força benevolente.

Para alcançar a “razão do bem”, a economia dispõe de caminhos de implementação e atores responsáveis. Por exemplo, permitir que o mercado desempenhe um papel decisivo na alocação de recursos relacionados ao desenvolvimento da IA é um caminho, o que exige que as empresas sejam os principais atores. Naturalmente, o mercado não é composto apenas por empresas, mas também por um “ambiente de mercado” justo, como competição igualitária e acesso equitativo, o que requer uma regulação de mercado sólida e aprimorada.

Ao usar a distribuição justa como critério, a IA ainda não pode ser considerada “benevolente”. Índices como o coeficiente de Gini e a disparidade de renda são utilizados na economia para avaliar se os resultados do desenvolvimento são distribuídos de forma relativamente justa. Com esses indicadores, a influência da IA atualmente é predominantemente negativa, ou seja, há efeitos de “não-bem”. Por um lado, a riqueza tende a se concentrar nos poucos que têm sucesso na inovação; por outro, o efeito de substituição da IA afeta principalmente os grupos de renda média e baixa, e ainda não se vislumbra uma melhora ou reversão com o avanço contínuo da IA.

Observando o progresso tecnológico passado, para resolver esse problema, as próprias empresas de IA devem esforçar-se, e o governo deve desempenhar melhor seu papel, equilibrando a substituição do trabalho com a criação de novas oportunidades de emprego em IA, além de fortalecer o sistema de proteção social de longo prazo e cumprir melhor sua responsabilidade.

2

Benefício é o bem: ganhos para consumidores além do limite do PIB

Alguns benefícios do progresso tecnológico não podem ser medidos pelo crescimento padrão do PIB, mas trazem um grande excedente para os consumidores, ou seja, uma sensação de conveniência, felicidade e bem-estar, sendo essa uma influência extremamente significativa da IA.

A IA promove o bem da conveniência. Os benefícios trazidos pela IA são notáveis, mas uma parte considerável não se reflete no PIB. Por exemplo, serviços autônomos baseados na internet, modelos de IA e agentes inteligentes proporcionam grande conveniência aos usuários, mas não geram atividades econômicas contabilizáveis no PIB; pelo contrário, substituem serviços que poderiam ser incluídos no PIB, como a substituição de reservas de bilhetes por autoatendimento, informações gratuitas na internet substituindo assinaturas de jornais, e-mails substituindo cartas postais, além de muitos serviços gratuitos.

A indústria cultural é um exemplo representativo, onde plataformas de entretenimento e modelos generativos permitem que todos apreciem mais música, livros, vídeos e produtos culturais mais diversos, aumentando significativamente o consumo cultural. Contudo, o mercado de produtos culturais medido pelo PIB não cresceu na mesma proporção.

Por exemplo, dados da Associação de Gravações dos EUA mostram que a receita da indústria musical americana caiu de 14,6 bilhões de dólares em 1999 para 7,5 bilhões em 2016, enquanto os benefícios para os consumidores advindos da música digital não são refletidos no PIB. Plataformas que oferecem serviços gratuitos geram receita por meio de publicidade, mas estudos indicam que o valor de benefício real para os consumidores é muito maior do que o PIB gerado por esses serviços substituídos ou benefícios adicionais. Claramente, a IA traz benefícios para o bem-estar.

A IA promove o bem da equidade. A IA permite que uma vasta quantidade de consumidores comuns acessem áreas de consumo e criatividade antes acessíveis apenas a grupos de alta renda e alto conhecimento. Por exemplo, na área cultural, consumidores com baixa capacidade de leitura podem usar IA para gerar imagens e vídeos ricos em conteúdo cultural; consumidores de baixa renda podem usufruir de serviços gratuitos em plataformas para apreciar produtos culturais caros e inacessíveis offline (como apresentações em teatros de alto padrão).

Além disso, na área de criatividade cultural, pessoas comuns com pouca habilidade de criação podem transformar ideias altamente criativas em produtos culturais próprios e compartilhá-los. Influenciadores nas redes sociais não apenas vendem seus produtos e serviços, mas também interagem com fãs, compartilhando estilos de vida, emoções, moda, sonhos, etc., proporcionando maior satisfação espiritual e psicológica aos consumidores.

O benefício do bem pode se manifestar por meio de serviços gratuitos, autoentretenimento e ajuda mútua, que não podem ser medidos pelo crescimento do PIB ou aumento de renda, mas podem ser avaliados por métodos como avaliação de valor condicional ou avaliação de valor de vontade. Por exemplo, perguntar aos consumidores quanto estariam dispostos a pagar por esses benefícios ou quanto precisariam ser compensados para abrir mão de certos benefícios gratuitos. Assim, é possível calcular o benefício de uso para toda a sociedade.

Pesquisas indicam que a proporção do benefício obtido por pessoas de baixa renda em relação à sua renda monetária é significativamente maior do que a de pessoas de alta renda, indicando que a IA realmente promove a equidade e melhora o bem-estar dos mais pobres.

Por outro lado, o benefício também pode ser mal utilizado. Algumas consumos que proporcionam prazer psicológico momentâneo podem causar danos profundos e duradouros à saúde física e mental, como o vício em jogos online ou o isolamento em bolhas de informação, problemas socialmente reconhecidos e que causam sofrimento às pessoas, que muitas vezes têm dificuldade de se libertar.

Os detentores e usuários da tecnologia têm a responsabilidade de exercer autocontrole e disciplina. Sem estratégias de enfrentamento, esses comportamentos prejudiciais não devem ser praticados; se causarem consequências negativas, a tecnologia deve ser usada para limitar e restringir esses comportamentos. Assim como os fabricantes têm responsabilidade pela qualidade de seus produtos, não devem vender produtos que prejudiquem a saúde ou ameacem vidas.

Além disso, o governo e a sociedade devem colaborar na gestão dessas questões. Para “mal” amplamente reconhecido pela sociedade — como violações de valores humanos, invasões de privacidade, incitação ao terrorismo — o poder público deve atuar com força.

3

Consentimento é o bem: consenso social sobre as consequências de longo prazo da tecnologia

As ciências sociais, em várias disciplinas, estudam o “consenso”, que na sociologia representa um alto grau de acordo social. Este artigo define “consenso” como “o maior denominador comum de entendimento social e a unidade social resultante”, e discute a ética tecnológica na era da IA sob a prisma do consenso.

Questões éticas relacionadas à tecnologia existem há muito tempo, mas na era da IA tornam-se especialmente evidentes, com uma mudança fundamental na sua natureza. No passado, a ciência buscava “descobrir leis naturais”, que eram leis inerentes à ordem natural, formadas por bilhões de anos de luta e evolução de forças na natureza. Agora, a IA tenta criar condições que não existem na evolução natural da natureza ou da sociedade, criando novas ordens, muitas vezes com o objetivo de alterar a condição natural humana ou a estrutura social.

Por exemplo, na área de ciências da vida mais intensamente aplicada na “IA para a ciência”, muitas pesquisas tentam modificar nossas características fisiológicas, reprodução, estruturas cognitivas e até interferir na formação da consciência, levando a mudanças na autonomia e controle sobre a própria consciência e comportamentos relacionados, além de criar novos seres vivos cujos efeitos de longo prazo são desconhecidos até pelos próprios cientistas. Esses novos fenômenos podem gerar consequências imprevisíveis, e os próprios cientistas podem não saber ao certo o que estão criando. Pensando bem, eles diferem bastante das descobertas científicas tradicionais.

Nessas circunstâncias, a questão de se a sociedade aprova ou não determinado avanço científico torna-se crucial, ou seja, o consenso social. Uma vez, manifestei a um cientista que admiro que, embora eu, como entusiasta de tecnologia ignorante, estivesse curioso e admirando uma pesquisa dele, como economista, não podia julgar, mas, como “humano”, acho que essa pesquisa é totalmente “não consensual”.

Quando os cientistas tentam alterar características humanas e leis naturais que evoluíram ao longo de milhões de anos, trata-se de uma questão de grande relevância para todos, e o público deve estar informado e participar, expressando seu consenso ou discordância. Discussões com tom científico podem ser difíceis de avançar apenas com métodos de avaliação de vontade, sendo necessário um “consenso coletivo” transparente e aberto ao público.

Os cientistas têm a responsabilidade de explicar ao público todas as possíveis consequências de suas pesquisas, não apenas os benefícios, e de permitir uma discussão ampla na sociedade para formar um consenso social que seja o maior denominador comum. Somente com a expressão de diferentes opiniões e o debate contínuo é que se pode encontrar um caminho para o “consenso” e sua posição na realidade. Não se deve deixar que a lógica tecnológica domine tudo, e é fundamental evitar que poucos especialistas irresponsáveis e com baixa capacidade de previsão tomem decisões precipitadas que possam gerar inovações irreversíveis e prejudiciais. Em suma, a exigência de consenso deve estar presente na discussão sobre o bem na IA.

Discussão de mecanismos: cooperação entre as partes para promover o AI para o bem

Vamos analisar os mecanismos para alcançar o bem. Além do “bem do benefício” como resultado natural da tecnologia, o “bem racional” e, especialmente, o “bem do consenso” não ocorrem espontaneamente. Então, de onde vêm os incentivos para o bem? Como projetar mecanismos adequados?

A prática mostra que há fatores que promovem o “bem” e fatores que levam ao “não-bem” em vários níveis. No contexto da IA, os fatores de “não-bem” e “bem” diferem de antes, e o “bem” requer tanto autocontrole quanto controle social.

Primeiro, os incentivos à inovação e ao comportamento “para o bem” por parte dos produtores de IA são evidentes e eficazes. Uma razão importante é que a IA precisa de uma aplicação em grande escala; se o “bem” não for amplamente aceito socialmente, não poderá ser bem e duradouramente aplicado. A alta atenção da sociedade às questões de segurança e ética da IA cria uma pressão constante, forte e abrangente sobre as empresas e empreendedores, orientando seus valores.

A necessidade de manter a reputação exige que os produtores “para o bem” respondam rapidamente às críticas e ajustem suas ações. Em 2023, a OpenAI enfrentou questionamentos por usar dados sensíveis de usuários em seu treinamento, e logo se comprometeu a não repetir. Algumas empresas líderes na China também tiveram respostas exemplares. Nesse sentido, os mecanismos de incentivo ao “para o bem” tornaram-se mais onipresentes e poderosos nesta era.

Segundo, a governança distribuída é uma característica distintiva da governança do AI para o bem. A aplicação de IA e dados difere das indústrias tradicionais por ser altamente contextualizada. No passado, a alocação de recursos de mercado era uma relação um-para-um, mas na era da IA, ela é agrupada e baseada em cenários.

Governos digitais, cidades inteligentes, transporte inteligente, saúde inteligente e indústrias de baixa altitude requerem uma rede de agentes que alocam recursos, o que chamamos de alocação distribuída de recursos. Nesse modelo, os interesses e as ideias dos envolvidos formam comunidades de diferentes tamanhos, que escolhem seus parceiros de cooperação e transações de forma autônoma. Cada cenário possui suas próprias regras, como regras de transação, de devolução, de punição por violações, que definem o que é “bem” ou “não-bem” naquele contexto, ou seja, o que os participantes podem ou não fazer. Como esses grupos seguem essas regras, eles também desempenham funções de governança, formando uma governança distribuída.

Terceiro, a governança do poder público é indispensável. Algumas consequências graves de “não-bem”, como violações de valores humanos, invasões de privacidade, incitação ao terrorismo e discurso de ódio, não podem ser deixadas ao mercado ou à sociedade, devendo ser explicitamente proibidas na lista de “não fazer”.

Além disso, para que a governança do mercado e da sociedade seja eficaz, o papel do governo é garantir transparência obrigatória. As empresas devem tornar acessível aos consumidores seus termos de uso de forma rápida e clara, e a transparência nos detalhes dos acordos é fundamental. Quanto às inovações relacionadas à humanidade e à sociedade, os provedores devem explicar claramente o que estão fazendo e quais as consequências.

Por fim, o sinal do governo é especialmente importante. Leis precisam ser relativamente estáveis, pois mudanças frequentes dificultam a adaptação, e não há necessidade de legislar precipitadamente antes de uma situação estar relativamente estabilizada. Contudo, o governo pode fazer muito, como divulgar diretrizes e bons exemplos, criticar práticas inadequadas, convocar empresas relevantes para diálogo, entre outros, exercendo um papel importante na orientação do AI para o bem.

Por fim, retornando ao tema principal: as ciências sociais devem desempenhar um papel importante na promoção do AI para o bem. Com uma sólida base acadêmica, as ciências sociais nos capacitam a julgar o bem e o mal da IA. Em aspectos como eficiência na alocação de recursos, benefícios e prejuízos sociais, justiça na distribuição de riqueza, percepção do público e manutenção da harmonia social, as ciências sociais têm contribuído de forma notável. Na era da IA, devemos nos esforçar ainda mais, assumir responsabilidades e, na discussão, prática e construção teórica do AI para o bem, estar no centro e na vanguarda.

Fonte | Compilado a partir do discurso ao vivo do professor Jiang Xiaojun

Edição | Lan Yinfan

Revisão | Qin Ting