Papa Francisco apela para desarmar a IA e proteger a humanidade de seus perigos

O Papa Leão XIV publicou sua primeira encíclica, intitulada «Magnifica humanitas», abordando como proteger a dignidade humana na era da inteligência artificial (IA). Ele apela para a «desarmar» a inteligência artificial, protegendo a humanidade dos perigos que ela traz, evitando que ela domine. Ele acredita que a inteligência artificial deve ser mais «humanizada», e que essa tecnologia precisa se libertar do controle monopólico, não podendo mais ser usada para obter interesses geopolíticos ou comerciais.

O Papa aponta que desarmar significa negar a suposição de que o poder técnico automaticamente concede autoridade de comando, o que não implica rejeitar a tecnologia, mas sim impedir que ela domine a humanidade.

O Papa acrescenta que a inteligência artificial não pode eliminar a inumanidade inerente aos conflitos, pelo contrário, pode acelerar a eclosão de conflitos, tornando-os mais frios e impiedosos. Ele alerta que algumas pessoas podem ver o conflito armado como uma forma eficaz de desviar a atenção de problemas internos, além de ser uma ferramenta cínica para lidar com dificuldades.

O Papa lembra que o uso de tecnologia computacional na guerra é perigoso, podendo levar as pessoas a ignorar a moralidade, e enfatiza que nenhum algoritmo pode tornar moralmente aceitável uma guerra.

A encíclica do Papa é uma orientação moral diante dos maiores desafios de seu tempo.

Em uma palestra subsequente, o Papa afirmou que é necessário que o mundo, incluindo grupos religiosos, sociedade civil, acadêmicos e governos, leve a sério essa questão, examine cuidadosamente e promova o desenvolvimento de uma direção melhor. Ele também espera que mais críticos perspicazes apontem as falhas dos laboratórios, que haja uma voz moral, e que nenhuma intervenção de grupos de interesses seja tolerada.