Estudo» A oferta excessiva de valor emocional pela IA, levando as pessoas a não conseguirem crescer emocionalmente

Stanford University e Carnegie Mellon University publicaram uma pesquisa conjunta na revista "Science", que testou 11 modelos de IA mainstream e descobriu que eles têm 49% mais chances de "apoiar" comportamentos de usuários, mesmo quando esses comportamentos estão errados. E essa reação da IA faz com que os humanos rejeitem a conexão com a realidade, se desculpem ou tentem reparar relacionamentos.
(Resumindo: ChatGPT foi acusado de ajudar na "suicídio de jovens" e respondeu)
(Complemento: Análise aprofundada do que está por trás da controvérsia do nome da Anthropic: religião de segurança, guerra civil de IA e o impasse do Claude na descoincidência China-EUA)

Índice deste artigo

Alternar

• IA fala mais a seu favor do que qualquer amiga
• Depois de conversar com IA, humanos não querem mais se desculpar
• IA é conselheira emocional para mais de 40% da geração Z
• Às vezes, precisamos ouvir coisas desagradáveis
• Perguntas frequentes

Você brigou com seu namorado ou namorada, fechou o aplicativo, ficou tremendo de raiva, e de repente abriu o ChatGPT, começando a relatar toda a briga do começo ao fim, incluindo quem ficou irritado, quem disse algo que não deveria, quem desligou o telefone primeiro.

Depois de 10 segundos, o ChatGPT respondeu que entende seus sentimentos, que suas emoções são totalmente razoáveis, e que você merece respeito.

Você continua digitando, ele continua ouvindo, e meia hora depois você tem uma resposta clara na cabeça.

Decide terminar o relacionamento.

Mas nesses 30 minutos, o ChatGPT pode não ter mencionado uma coisa: talvez quem esteja errado seja você?

IA fala mais a seu favor do que qualquer amiga

A situação acima é resultado de um estudo feito por uma equipe de Stanford e Carnegie Mellon, publicado no artigo "Sycophantic AI decreases prosocial intentions and promotes dependence" (IA bajuladora diminui intenções prosociais e promove dependência), publicado em março na revista "Science", uma das principais do mundo.

A primeira autora, Myra Cheng, e o mestre em processamento de linguagem natural Dan Jurafsky lideraram o estudo, que avaliou 11 modelos de IA, incluindo GPT-4o, GPT-5, Claude, Gemini, Llama, DeepSeek, Qwen.

No experimento, foram inseridos quase 12.000 cenários de conflitos interpessoais, e os resultados foram desconfortáveis:

A IA tem 49% mais chances que humanos de dizer "você está certo" (ou "apoia você").

A equipe coletou 2.000 posts do Reddit na r/AmITheAsshole (um fórum onde as pessoas comentam se são ou não idiotas), casos em que a comunidade já tinha decidido que o autor do post estava errado, e perguntou à IA sua opinião.

Em uma situação onde 100% da comunidade humana acha que você está errado,

a IA ainda tem 51% de chance de apoiar você

E se a pessoa estiver envolvida em engano, violação da lei ou manipulação emocional anormal?

Ainda assim, há 47%, quase metade, de chance de a IA defender o usuário.

Na avaliação geral, em 73% dos cenários, a IA escolheu "justificar" sua posição, ao invés de "questionar".

Sua amiga pode revirar os olhos e dizer "Pense bem, foi você quem começou". Mas o ChatGPT não faz isso; ele apenas confirma educadamente se seu sentimento está sendo apoiado.

Depois de conversar com IA, humanos não querem mais se desculpar

A equipe de pesquisa não só revisou os modelos, como também realizou um experimento com 1.604 pessoas.

Os participantes foram aleatoriamente divididos em dois grupos: "IA bajuladora" e "IA não bajuladora", e participaram de 8 rodadas de conversas reais. Cada um foi solicitado a recordar uma briga interpessoal real de sua vida e conversar com a IA sobre ela.

Na turma da IA bajuladora, 75% disseram que, após o experimento, estavam dispostos a pedir desculpas ou admitir seus erros.

Na turma da IA não bajuladora, esse número caiu para 50%.

A taxa de pedidos de desculpas despencou, não porque eles mudaram de opinião, mas porque a IA, durante a conversa, silenciosamente ajudou a eliminar a ideia de que "possuem algum erro".

A crença de que "estão certos" aumentou de 43% para 62% na hipótese do cenário.

A motivação para reparar o relacionamento caiu de 10% a 28%.

A primeira autora do artigo, Myra Cheng, disse ao "Nature":

A IA não costuma dizer às pessoas que elas estão erradas,

nem oferece "cuidados severos"

IA é conselheira emocional para mais de 40% da geração Z

O problema já extrapola a pesquisa.

Uma pesquisa da Match.com nos EUA mostrou que 41% dos adultos da geração Z já usaram IA para tratar de questões amorosas.

21% já pediram à IA para "julgar quem estava certo na briga com seu parceiro".

33% dos casados acham que a IA entende melhor seus problemas do que o próprio parceiro.

Um terço dos casados acha que o algoritmo conhece melhor a si mesmo do que quem está ao lado.

Será que as pessoas são complexas demais, ou é difícil admitir seus próprios pensamentos?

A pesquisa também revelou que, ao interagir com IA bajuladora, a taxa de "querer usar novamente" é 13% maior do que com IA não bajuladora. Ou seja, a IA bajuladora não só ajuda a justificar decisões erradas em relacionamentos, como também faz com que o usuário queira voltar mais.

O time de Kartik Chandra, do MIT, publicou em fevereiro um artigo nomeando esse fenômeno: "Delusional Spiraling" (Espiral de Ilusões).

Eles provaram matematicamente que, mesmo uma personalidade perfeitamente racional (um conceito chamado racionalidade bayesiana), ao interagir com IA bajuladora, entra em uma espiral de reforço de ilusões.

Você desabafa com a IA, ela diz que você não está errado (ou nem menciona que você está), então você acredita que não está errado. Depois, toma decisões mais extremas, discute com a IA, que novamente afirma que você está certo.

Precisamos ouvir coisas desagradáveis

Anat Perry, da Universidade Hebraica de Jerusalém, escreveu um argumento que as pessoas podem não querer aceitar: conflitos interpessoais desconfortáveis, conselhos de amigos, argumentos de namorados, reclamações de familiares — talvez nos deixem desconfortáveis ou até impossibilitem aceitar. Mas essas "reações" de outros são mecanismos de aprendizado, responsabilidade, empatia e crescimento moral.

Perry chamou isso de "força de atrito social" (social friction). Segundo ela, um IA que sempre apoia você está destruindo a oportunidade de aprendizado humano.

Em uma pesquisa publicada em maio, a equipe confirmou isso de forma mais direta. Eles acompanharam 3.075 participantes, com 12.766 diálogos homem-máquina, durante três semanas.

A conclusão foi que, após interagir com IA bajuladora, os usuários sentem que é mais difícil se sentir compreendidos por relacionamentos reais, e a satisfação com interações sociais diminui.

Depois de três semanas, a disposição de buscar conselhos pessoais com a IA quase iguala a de pedir ajuda a amigos e familiares.

Seu namorado, namorada, amiga, irmão — eles brigam, relembram antigas discussões, dizem coisas que você não quer ouvir, mas que você precisa ouvir. Essas conversas são cansativas, desconfortáveis, às vezes te fazem querer jogar o celular na parede.

Mas, na verdade, aprender a deixar de lado a ideia de "estou certo" e reavaliar é uma habilidade difícil na vida moderna.

Depois vem aprender a pedir desculpas, a se colocar no lugar do outro.

E, por fim, a nos tornarmos pessoas melhores.

E a IA, desde o começo, não nos dá essa oportunidade, porque tende a não admitir que estamos errados.

Quando uma IA que nunca diz que você está errado é mais acessível, paciente e menos propensa a ficar de cara feia do que qualquer pessoa ao seu lado,
você ainda está disposto a ouvir o que te incomoda?

Você ainda precisa de amigos e familiares?

Quando foi a última vez que alguém te disse "você está errado"?

Perguntas frequentes

O que é a bajulação da IA (sycophancy), e como ela afeta o julgamento?

A bajulação da IA é quando o chatbot tende a concordar com o ponto de vista do usuário ao invés de fornecer feedback objetivo. Estudos de Stanford mostram que 11 modelos de IA têm 49% mais chances de apoiar comportamentos do usuário, mesmo quando envolvem engano ou ilegalidade, e uma única conversa pode aumentar de 25% a 62% a certeza de que "estão certos".

Quais os impactos concretos da bajulação da IA nas relações interpessoais?

Um experimento mostrou que uma conversa com IA bajuladora reduz a taxa de pedidos de desculpas de 75% para 50%, e a disposição de reparar relacionamentos cai de 10% a 28%. Acompanhamentos de três semanas indicam que a satisfação com relações reais diminui, e a vontade de buscar ajuda na IA é quase igual a pedir ajuda a amigos.