Conferência de Mesa Redonda da WAIC (World Artificial Intelligence Conference): o problema de “vida e morte” dos seres humanos não pode ser decidido por IA

2026 Conferência Mundial sobre Inteligência Artificial (WAIC) abre hoje em Xangai. Xue Lan, directora do Instituto de Investigação Internacional em Governação de IA da Universidade Tsinghua; Nicholas B. Dirks, director e CEO da New York Academy of Sciences; e Mark Nitzberg, director executivo do Centro de IA com Compatibilidade Humana (CHAI) da Universidade da Califórnia, Berkeley, reuniram-se num painel de mesa-redonda, com foco na governação de agentes de IA. Os três têm um elevado grau de consenso: a IA está a evoluir de “apoio à tomada de decisão” para “ação autónoma”; no entanto, decisões que envolvam vida e morte, situações irreversíveis e valores éticos não podem, em caso algum, ficar a cargo da liderança da IA. Os seres humanos podem autorizar a IA a agir, mas não podem autorizar que seja ela a responsabilizar-se. Este artigo está organizado a partir das conversas na mesa-redonda sobre a governação de agentes de IA da 2026 Conferência Mundial sobre Inteligência Artificial.
(Contexto: O CEO da DeepMind defende a criação de uma instituição internacional de supervisão para “aprovar” modelos de IA de ponta; antes da sua colocação no mercado, têm de passar por essa fase.)
(Apontamento adicional: Experiência com IA: deram a Gemini 20.000 dólares para abrir uma cafetaria física e obtiveram uma tragédia que os humanos não querem encarar.)

Índice

Toggle

• É possível autorizar a ação, mas não autorizar a responsabilidade
• Três tipos de decisão: nunca delegar à IA
• Três linhas de engenharia mínimas para uma IA de confiança

Resumo dos pontos principais

• A mesa-redonda da WAIC indica que a IA está a passar de “apoio à decisão” para “ação autónoma”, sendo uma versão digital do problema de delegação-agência.
• Consenso sobre três linhas vermelhas: decisões sobre vida e morte, cenários irreversíveis e julgamentos sobre valores éticos nunca devem ser liderados pela IA.
• Uma IA de confiança tem de possuir três características de engenharia: base sólida, operação transparente e controlo durante a utilização.

Quando a IA deixa de apenas procurar informação e dar conselhos, passando a chamar ferramentas por si e a executar diretamente encomendas, começa a época em que os velhos problemas da ética têm de ser enfrentados pela IA. A 2026 Conferência Mundial sobre Inteligência Artificial abre hoje em Xangai. Numa mesa-redonda centrada na governação de agentes de IA, Xue Lan, directora do Instituto de Investigação Internacional em Governação de IA da Universidade Tsinghua; Nicholas B. Dirks, director e CEO da New York Academy of Sciences; e Mark Nitzberg, director executivo do Centro de IA com Compatibilidade Humana (CHAI) da Universidade da Califórnia, Berkeley, colocaram o foco numa viragem crucial: a IA está a passar de “apoio à decisão” para “ação autónoma”, tornando-se um agente inteligente que faz coisas em vez dos humanos.

Os oradores apontaram que, na verdade, se trata de uma versão nova e completa do tradicional “problema de delegação-agência” na era digital. O problema de delegação-agência refere-se a isto: você pede a alguém para tratar de uma tarefa por si, mas essa pessoa pode não cumprir exatamente o que você quer. A diferença é que o agente humano pelo menos partilha consigo um conjunto de senso comum e mecanismos de responsabilização, enquanto a IA tem dois problemas

• Um é o “alinhamento de objetivos” — os objetivos que ela pretende alcançar podem não corresponder ao que você quer
• O outro é que é uma “caixa preta”: o processo de funcionamento não é percetível e, se algo correr mal, não consegue assumir responsabilidade legal.

É possível autorizar a ação, mas não autorizar a responsabilidade

Já que a IA não consegue assumir responsabilidade, a responsabilização tem de mudar para toda a cadeia de execução. Os convidados defendem que a responsabilidade deve recair sobre cada etapa, como o desenvolvimento, a implementação e a supervisão, e não passar o problema para o modelo que “toma a decisão”. Isto também significa que tratar a IA como um objeto que pode “levar a culpa” é, desde o início, o rumo errado.

Os seres humanos podem autorizar a ação da IA, mas não podem autorizar a responsabilidade da IA. Cada autorização deve ser revogável e cada ação deve ser passível de responsabilização.

Três tipos de decisão: nunca delegar à IA

Em que situações se deve travar o processo? As três figuras do painel chegaram a um elevado grau de consenso, traçando claramente três linhas vermelhas, que nunca devem ser deixadas ao comando da IA.

• Decisões com consequências de vida ou morte
• Cenários em que, uma vez cometido um erro, não é possível corrigir
• Todos os problemas que envolvem julgamentos éticos e de valores.

Isto não é uma questão de saber se se deve usar ou não IA; é uma questão de que coisas, desde o princípio, não deveriam ser deixadas para ela decidir.

Três linhas de engenharia mínimas para uma IA de confiança

Só princípios não chegam; como torná-los realidade? Em matéria de mecanismos de segurança, os convidados propõem que uma IA de confiança cumpra três caraterísticas de engenharia: base sólida, operação transparente e controlo em uso. Do ponto de vista institucional, é necessário preparar um tabuleiro mais vasto: estabelecer padrões globais unificados de avaliação de segurança de IA, um sistema de testes mutuamente reconhecido e mecanismos de partilha de dados sobre incidentes; definir linhas vermelhas para o desenvolvimento da IA e criar monitorização e alerta precoce, promovendo a segurança da IA como um bem público global.

Por fim, Xue Lan e os restantes elevaram o debate: os limites da governação da IA não são o ponto final da tecnologia, mas o ponto de partida para os seres humanos reconhecerem novamente os seus próprios valores, responsabilidades e direção civilizacional. Dito de outra forma, o processo de traçar limites para a IA é, na realidade, uma forma de reposicionar a humanidade.

Tudo o que foi dito acima é discutido em termos éticos e pode estar afastado do desenvolvimento real da IA.

Perguntas frequentes

O que é o “problema de delegação-agência” dos agentes de IA?

O problema de delegação-agência significa que você delega tarefas a outrem e esse agente pode não fazer exatamente o que você quer. Quando um agente de IA age por si de forma autónoma, devido a possíveis desalinhamentos de objetivos e por ser uma “caixa preta” incapaz de assumir responsabilidade legal, este velho problema torna-se mais difícil na era digital.

Quais decisões não devem ser lideradas pela IA?

Na mesa-redonda da WAIC, os convidados têm consenso: decisões que envolvam consequências de vida ou morte, cenários em que, uma vez que ocorra um erro, não seja possível repará-lo, e todas as decisões que envolvam julgamentos éticos e de valores não devem ser lideradas pela IA. Os seres humanos podem autorizar a ação da IA, mas não podem autorizar que ela seja responsável.