Mesa-redonda de consenso na Conferência Mundial de Inteligência Artificial (WAIC): a questão de vida e morte dos seres humanos não pode ser entregue às decisões da IA

2026 年世界人工智慧大會（WAIC）hoje foi inaugurada em Xangai, com a participação em um painel do diretor do Instituto de Governança Internacional de IA da Universidade Tsinghua, Xue Lan, do diretor executivo e presidente da Academia de Ciências de Nova York, Nicholas B. Dirks, e do diretor executivo do Centro de IA Compatível com Humanos da Universidade da Califórnia em Berkeley (CHAI), Mark Nitzberg, com foco na governança de agentes de IA. Os três têm um alto grau de concordância: a IA está saindo de “julgamento assistido” para “ação autônoma”, mas decisões que envolvem vida e morte, cenários irreversíveis e valores éticos não podem ser lideradas pela IA; os seres humanos podem autorizar a IA a agir, mas não podem autorizar que ela seja responsável. Este artigo organiza a conversa do painel sobre governança de agentes de IA da 2026 World Artificial Intelligence Conference.
（Antecedentes: o CEO da DeepMind defende a criação de um órgão internacional de supervisão para “revisar” modelos de IA de ponta, que só poderiam ser liberados após aprovação）
（Complemento de contexto: experimento de IA — dar ao Gemini US$ 20 mil para abrir uma cafeteria física e obter um tipo de tragédia que os humanos não querem enfrentar）

Sumário

Toggle

• Pode autorizar ações, mas não pode autorizar responsabilidade
• Três tipos de decisão, absolutamente não delegar à IA
• Três limites de engenharia para uma IA confiável

Resumo dos destaques

• No painel do WAIC, foi afirmado que a IA está passando de “julgamento assistido” para “ação autônoma”, como uma nova versão digital do problema de delegação-agência.
• Consenso das três “linhas vermelhas”: decisões de vida e morte, cenários irreversíveis e julgamentos de valores éticos — não podem ser entregues à liderança da IA.
• A IA confiável precisa ter três características de engenharia: base sólida, operação transparente e controle durante o uso.

Quando a IA, de ajudar você a buscar informações e dar recomendações, vira algo que pode chamar ferramentas por conta própria e executar pedidos diretamente, os antigos dilemas da ética precisam começar a ser enfrentados pela IA. A 2026 World Artificial Intelligence Conference foi inaugurada hoje em Xangai. Em um painel sobre governança de agentes de IA, Xue Lan, diretor do Instituto de Governança Internacional de IA da Universidade Tsinghua; Nicholas B. Dirks, diretor executivo e presidente da Academia de Ciências de Nova York; e Mark Nitzberg, diretor executivo do Centro de IA Compatível com Humanos da Universidade da Califórnia em Berkeley (CHAI), reunidos no palco, levaram o tema a uma virada crucial: a IA está saindo de “julgamento assistido” para “ação autônoma”, tornando-se um agente inteligente para fazer coisas em nome de outras pessoas.

Os palestrantes apontaram que isso é, na verdade, uma nova versão do problema tradicional de “delegação-agência” na era digital. O problema de delegação-agência é quando você pede que alguém faça algo por você, mas a outra parte nem sempre cumpre exatamente o que você queria. A diferença é que o agente humano compartilha, ao menos, um senso comum e um mecanismo de responsabilização com você; já a IA traz dois problemas

• Primeiro, “alinhamento de objetivos”: a meta que ela tenta alcançar pode não corresponder àquilo que você quer
• Segundo, ela é uma “caixa-preta”: o processo de funcionamento não dá para enxergar e, se der errado, não há como assumir responsabilidade legal.

Pode autorizar ações, mas não pode autorizar responsabilidade

Já que a IA não aguenta a responsabilidade, a responsabilização precisa ser transferida para toda a cadeia de execução. Os convidados defendem que a responsabilidade deve recair sobre cada etapa — desenvolvedores, implantadores, reguladores e assim por diante — e não em cima daquela “IA que decide”. Isso também significa que tratar a IA como um objeto para carregar culpa, desde o início, é seguir na direção errada.

Humanos podem autorizar ações de IA, mas não podem autorizar responsabilidade de IA. Cada autorização deve ser revogável, e cada ação deve ser rastreável e responsabilizável.

Três tipos de decisão, absolutamente não delegar à IA

Em que situações é preciso apertar o freio, os três convidados chegaram a um alto grau de concordância e definiram, de forma clara, três linhas vermelhas — que não podem ser deixadas à liderança da IA.

• Decisões que envolvem consequências de vida e morte
• Cenários em que, se der errado, não há como reparar
• Todas as questões que envolvem julgamentos de ética e valores,.

Isso não é uma questão de “usar ou não usar IA”, e sim de que, desde o começo, existem coisas que não deveriam ser colocadas sob sua autoridade.

Três limites de engenharia para uma IA confiável

Só ter princípios não basta — como colocar isso em prática? Em mecanismos de segurança, os convidados propuseram que uma IA confiável precisa atender a três características de engenharia: base sólida, operação transparente e controle durante o uso. No nível institucional, é preciso montar um plano maior: criar padrões globais unificados de avaliação de segurança de IA, sistemas de teste com reconhecimento mútuo e um mecanismo de compartilhamento de dados de incidentes; traçar claramente as linhas vermelhas do desenvolvimento de IA e estabelecer monitoramento e detecção precoce de alertas, para impulsionar a segurança da IA como um bem público global.

Ao final, Xue Lan e os demais elevaram o debate: o limite da governança de IA não é o ponto final da tecnologia, mas o ponto de partida para os seres humanos reconhecerem novamente seus próprios valores, responsabilidades e direção civilizatória. Em outras palavras, o processo de traçar limites para a IA é, na prática, uma forma de realocar a humanidade.

Tudo isso está sendo discutido em nível ético e pode estar distante do desenvolvimento real da IA.

Perguntas comuns

O que é o “problema de delegação-agência” de um agente de IA?

O problema de delegação-agência significa que você encarrega alguém de fazer algo por você, mas a outra parte pode não agir exatamente como você queria. Quando um agente de IA age de forma autônoma em nome dos seres humanos, esse problema antigo se torna mais difícil na era digital, porque os objetivos podem não estar alinhados e porque é uma caixa-preta que não consegue assumir responsabilidade legal.

Quais decisões não podem ser delegadas à liderança da IA?

No painel do WAIC, os convidados têm consenso: decisões que envolvem consequências de vida e morte, cenários em que, se der errado, não há como reparar, e todas as decisões que envolvem julgamentos de ética e valores não podem ser lideradas pela IA. Humanos podem autorizar ações de IA, mas não podem autorizar que ela seja responsável.