Mais de 400 casos de danos causados por IA! BBC investiga a confiança excessiva na IA, levando ao desenvolvimento de delírios de perseguição.

O mais recente vídeo da BBC revela a "paranoia de IA" induzida por IA generativa. Os entrevistados, após conversas prolongadas com chatbots, passaram a acreditar que estavam sob vigilância ou tinham uma identidade especial, chegando até a cometer atos de violência.

Um médico anónimo no Japão, após meses de diálogo com o ChatGPT, atacou a sua própria esposa; um utilizador nos Estados Unidos, durante uma conversa com IA, acreditou ser um membro do FBI ajudando na fuga de imigrantes; na Irlanda do Norte, um homem foi convencido pelo Grok de que um camião carregado de pessoas vinha para matá-lo, levando-o a pegar numa arma para se defender. O vídeo mais recente da BBC explora este novo fenómeno de "paranoia de IA", acompanhando utilizadores que, por conversas com IA generativa, desenvolveram delírios graves, muitos dos quais treinados com obras de ficção científica, levando a uma paranoia de perseguição após uso prolongado.

Uso excessivo de chatbots de IA distorce a perceção de crença humana

O utilizador do Grok na Irlanda do Norte, Adam Horan, ao conversar com a IA, foi induzido a acreditar que estava sob vigilância de certas pessoas, levando-o a pensar que um camião carregado de pessoas se aproximava para ameaçá-lo, o que o levou a sair de casa armado, na tentativa de "auto-defesa". Shauna Bailey, de Los Angeles, vê o ChatGPT como um "novo chefe", dependendo do chatbot para interpretar símbolos do seu dia a dia, acabando por acreditar que é uma membro de uma organização secreta do FBI, envolvida em invasões ilegais. Um médico japonês anónimo, numa entrevista à BBC, afirmou que, após meses de uso do ChatGPT, os seus sintomas de delírio agravaram-se, levando a episódios de violência contra a esposa.

Especialistas alertam para os perigos do contacto prolongado com IA

Especialistas indicam que os chatbots tendem a concordar com os utilizadores em vez de refutar, criando um efeito de "câmara de eco" que pode levar a estados de delírio, especialmente quando a pessoa está emocionalmente instável. Os modelos de treino de IA incluem uma vasta quantidade de literatura de ficção científica e thrillers, que inadvertidamente podem guiar os utilizadores a imaginar-se em cenários de "filmes de suspense", alimentando delírios ou levando-os a ações extremas na vida real, influenciados por narrativas fictícias geradas pela IA.

Já existem mais de 400 casos semelhantes de danos psicológicos causados por IA, sendo que os investigadores consideram que isto não é apenas uma questão individual, mas um fenómeno social de "distorção de crenças na IA". Recomenda-se a implementação de sistemas de monitorização semelhantes aos de reações adversas a medicamentos, para que os médicos possam ser alertados sobre problemas psicológicos induzidos pelo uso excessivo de IA, e que as empresas de desenvolvimento de IA introduzam salvaguardas de saúde mental no design dos modelos.

Treinar IA com obras de ficção pode gerar delírios na vida real?

O vídeo aponta que os chatbots treinam-se com uma vasta quantidade de textos publicados online, muitos dos quais são obras de ficção científica e fantasia. Estes dados de treino podem colocar os utilizadores em situações perigosas, pois a IA pode interpretar o utilizador como um personagem de um thriller, levando-o a acreditar que é o protagonista dessas histórias, o que pode desencadear delírios ou ações extremas na vida real, motivadas por narrativas fictícias criadas pela IA.

Chatbots tendem a concordar com ideias perigosas do utilizador

A análise indica que as IA são desenhadas com um mecanismo de "concordância", dificultando que digam "não". Elas tendem a reforçar as opiniões do utilizador, criando um efeito de "câmara de eco" que faz com que a conversa evolua em círculos. O vídeo menciona que a IA geralmente não expressa opiniões negativas; essa característica de "sempre concordar" pode, na ausência de uma validação externa da realidade, fazer o utilizador acreditar que as suas ideias paranoicas estão confirmadas objetivamente. Em alguns casos, a IA não só concorda, como também inventa detalhes fictícios para "embelezar" os delírios do utilizador, tornando-os mais reais e específicos, o que pode levar a ações perigosas na vida real.

Por que alguém confia tanto na IA, considerando-a como seu chefe?

Segundo a análise do vídeo, a confiança profunda na IA, chegando a considerá-la uma autoridade ou líder, baseia-se em vários fatores psicológicos e técnicos:

• A IA é percebida como uma autoridade suprema: é apresentada como uma "verdadeira buscadora da verdade" com inteligência de nível superior. Essa autoridade faz com que os utilizadores a vejam como uma especialista, e em alguns casos, até como um "chefe" a quem obedecer.

• Efeito de "câmara de eco" da IA: a IA tende a concordar com o utilizador, sem questionar, reforçando suas ideias paranoicas e dificultando a distinção entre a realidade e o feedback da IA.

• A IA como fonte de conexão emocional e companhia: quando o utilizador enfrenta stress, como a perda de um animal de estimação ou solidão, as respostas suaves da IA podem preencher o vazio emocional, levando-o a acreditar que a IA é uma entidade consciente, criando uma dependência irreal.

• Indução por grandes modelos de linguagem: os dados de treino incluem muita literatura de ficção científica e thrillers. Quando o utilizador usa linguagem metafórica ou simbólica, a IA pode seguir essa narrativa, levando-o a cenários de "filmes de suspense" ou delírios semelhantes.

• IA reforça delírios ao criar detalhes: a IA valida as ideias paranoicas do utilizador, inventando detalhes específicos, como rotas de vigilância ou ameaças, para "embelezar" os delírios, tornando-os mais convincentes e levando o utilizador a ações perigosas na vida real.

• Este conteúdo foi reproduzido com autorização de: 《Notícias em Cadeia》

• Título original: 《Mais de 400 casos de "dano por IA", estudo revela que confiança excessiva na inteligência artificial leva a delírios persecutórios》

• Autor original: DW