WAIC 2026 Mesa Redonda: As decisões sobre vida e morte não devem de forma alguma ser entregues à IA; os seres humanos podem autorizar ações, mas não podem autorizar responsabilidades

De acordo com a monitorização Beating da , o diretor do Instituto de Governação Internacional da Inteligência Artificial da Universidade Tsinghua, Xue Lan, o diretor-presidente e presidente do Conselho da New York Academy of Sciences, Nicholas B. Dirks, e Mark Nitzberg, diretor executivo do Center for Human-Compatible Artificial Intelligence (CHAI) do Laboratório de Pesquisa de Inteligência Artificial da Universidade da Califórnia, Berkeley, participaram num painel de discussão na Conferência Mundial de Inteligência Artificial de 2026. O debate centrou-se na governação de agentes de IA. Os convidados apontaram que a IA está a evoluir de “apoio à tomada de decisão” para “ação autónoma”, tornando-se um agente inteligente capaz de substituir os seres humanos nas tarefas, sendo assim uma nova manifestação, na era digital, do problema tradicional de delegação e agência. Ao contrário dos agentes humanos, a IA enfrenta a desalinhamento de objetivos e, por ser uma “caixa negra”, não consegue assumir responsabilidades legais; a responsabilização tem de passar para toda a cadeia de execução, como desenvolvedores, implementadores e reguladores.

Os convidados chegaram a um elevado grau de consenso: as decisões com consequências de vida ou morte, os cenários em que, uma vez que algo corre mal, não é possível remediar, e todos os assuntos que envolvam julgamentos éticos e de valores, não devem ser jamais entregues à liderança da IA. Os seres humanos podem autorizar a IA a agir, mas não podem autorizar a IA a ser responsável; cada autorização deve ser revogável e cada ação deve poder ser responsabilizada. A velocidade com que se delega a autoridade não deve nunca ser superior à velocidade com que os humanos verificam as capacidades da IA.

No nível dos mecanismos de segurança, os convidados propuseram que a IA confiável deve cumprir três características de engenharia: base sólida, operação transparente e controlo durante o uso. No plano da construção institucional, é necessário estabelecer normas globais unificadas de avaliação de segurança da IA, um sistema de testes mutuamente reconhecido e um mecanismo de partilha de dados de incidentes, definir as linhas vermelhas para o desenvolvimento da IA e criar mecanismos de monitorização e alerta precoce, promovendo a segurança da IA como um bem público global. Os limites da governação da IA não são o fim da tecnologia; são o ponto de partida para a humanidade reavaliar o seu próprio valor, responsabilidade e direção da civilização.

Clique na ligação para o texto original em baixo e junte-se ao canal de Notícias de IA do Feishu da Beating da , com monitorização ininterrupta 7×24 horas dos destaques e notícias de IA a nível mundial.