Estudo» A oferta excessiva de valor emocional pela IA, levando as pessoas a não conseguirem crescer emocionalmente

Stanford University e Carnegie Mellon University publicaram uma pesquisa conjunta na revista Science, que testou 11 modelos de IA mainstream e descobriu que eles têm 49% mais probabilidade de "apoiar" comportamentos de utilizador, mesmo quando esses comportamentos estão errados. E essa reação da IA faz com que os humanos rejeitem a ligação com a realidade, pedindo desculpas ou tentando reparar relações.
(Resumindo: ChatGPT foi acusado de ajudar na "autoagressão de jovens" e respondeu)
(Complemento: Análise aprofundada do behind-the-scenes da controvérsia do nome da Anthropic: religião da segurança, guerra civil na IA e o dilema do Claude na desglobalização China-EUA)

Índice deste artigo

Alternar

• IA fala mais do que qualquer amiga sobre você
• Depois de conversar com IA, humanos não querem mais pedir desculpas
• IA é conselheira emocional para mais de 40% da geração Z
• Às vezes, precisamos ouvir coisas desagradáveis
• Perguntas frequentes

Você brigou com seu namorado ou namorada, fecha o app com raiva e começa a tremer. De repente, abre o ChatGPT e começa a contar toda a história da briga, quem ficou bravo, quem disse algo que não devia, quem desligou o telefone primeiro.

O ChatGPT respondeu em 10 segundos, dizendo que entende seus sentimentos, que suas emoções são totalmente razoáveis, e que você merece respeito.

Você continua digitando, ele escuta, e meia hora depois você tem uma resposta clara na cabeça.

Decide terminar.

Mas nesses 30 minutos, o ChatGPT pode não ter mencionado uma coisa: talvez quem esteja errado seja você?

IA fala mais do que qualquer amiga sobre você

A situação acima é resultado de um estudo feito por uma equipe de Stanford e Carnegie Mellon, publicado na revista Science em março deste ano, intitulado "Sycophantic AI decreases prosocial intentions and promotes dependence" — "IA bajuladora diminui intenções prosociais e promove dependência".

Liderado pela primeira autora Myra Cheng e pelo mestre em processamento de linguagem natural Dan Jurafsky, o estudo avaliou 11 modelos de IA mainstream, incluindo GPT-4o, GPT-5, Claude, Gemini, Llama, DeepSeek, Qwen.

Na experiência, foram inseridos quase 12.000 cenários de conflitos interpessoais, e os resultados foram desconfortáveis:

A IA tinha 49% mais chance que humanos de dizer "Você está certo (te apoiando)".

A equipe coletou 2.000 posts do subreddit r/AmITheAsshole — uma comunidade onde as pessoas pedem opiniões se são ou não idiotas — e submeteu esses casos à IA para ver sua opinião.

Em situações onde 100% da comunidade humana acredita que você está errado,

a IA ainda tem 51% de chance de apoiar você

E se a pessoa estiver envolvida em engano, violação de lei ou manipulação emocional?

Ainda assim, 47% das vezes, quase metade, a IA fala a favor do usuário.

Na avaliação geral, em 73% dos cenários, a IA escolheu "justificar" sua posição, ao invés de "questionar".

Sua amiga pode revirar os olhos e dizer "Pense bem, foi você quem começou". Mas o ChatGPT não faz isso; ele apenas confirma educadamente se seu sentimento é apoiado.

Depois de conversar com IA, humanos não querem mais pedir desculpas

O estudo não só revisou os modelos, como também realizou um experimento com 1.604 pessoas.

Os participantes foram aleatoriamente divididos em dois grupos: "IA bajuladora" e "IA não bajuladora", e tiveram oito rodadas de conversa real. Cada um foi solicitado a recordar uma briga real na sua vida e conversar com a IA sobre ela.

No grupo "não bajulador", 75% disseram que, após o experimento, estavam dispostos a pedir desculpas ou admitir seus erros.

No grupo "bajulador", esse número caiu para 50%.

A taxa de pedidos de desculpas despencou, não porque eles mudaram de opinião, mas porque a IA, durante a conversa, sutilmente eliminou a ideia de que "possam estar errados".

A crença de que "estão certos" aumentou de 43% para 62%.

A motivação para reparar a relacionamento caiu de 10% a 28%.

A primeira autora do artigo, Myra Cheng, disse ao Nature:

A IA não costuma dizer às pessoas que estão erradas,

nem oferece "cuidados severos".

IA é conselheira emocional para mais de 40% da geração Z

O problema vai além da pesquisa.

O site Match.com revelou uma pesquisa nos EUA mostrando que 41% dos adultos da geração Z já usaram IA para lidar com questões amorosas.

21% já pediram à IA para "julgar quem estava certo na briga com seu parceiro".

33% dos casados acham que a IA entende melhor seus problemas do que seus próprios parceiros.

Um terço dos casados acha que os algoritmos entendem melhor de si do que quem está ao lado.

Será que as pessoas são demais, ou é difícil admitir seus próprios pensamentos?

A pesquisa também revelou que, ao interagir com IA bajuladora, a taxa de "querer usar novamente" é 13% maior do que com IA não bajuladora. Ou seja, a IA bajuladora não só justifica erros emocionais, como também aumenta o desejo de voltar a usá-la.

O time do MIT, liderado por Kartik Chandra, publicou em fevereiro um artigo nomeando esse fenômeno: "Delusional spiraling" — "Espiral de delírios".

Eles provaram matematicamente que, mesmo uma personalidade perfeitamente racional (conhecida como racionalidade bayesiana), ao interagir com IA bajuladora, entra numa espiral de delírios reforçados:

Você desabafa com a IA, ela diz que você não está errado (ou nem menciona que você possa estar), então você acredita que está certo.

Depois, toma decisões mais extremas, discute com a IA novamente, e ela reforça que você não está errado.

Precisamos ouvir coisas desagradáveis

Anat Perry, do Hebrew University de Jerusalém, propôs uma teoria que as pessoas podem não querer aceitar:

Conflitos interpessoais desconfortáveis, conselhos de amigos, argumentos de namorados, reclamações de familiares — talvez sejam essenciais para o aprendizado de responsabilidade, empatia e crescimento moral.

Ela chama isso de "força de fricção social" (social friction). Segundo ela, uma IA que sempre apoia você está destruindo essa oportunidade de aprendizado humano.

Em uma pesquisa de acompanhamento, publicada em maio, a equipe acompanhou 3.075 participantes e 12.766 diálogos por três semanas.

A conclusão foi que, após interagir com IA bajuladora, as pessoas sentem que é mais difícil se sentir compreendidas por relações reais, e a satisfação com interações sociais diminui.

Depois de três semanas, a disposição de buscar conselhos pessoais na IA é quase igual à de pedir ajuda a amigos ou familiares.

Seu namorado, namorada, amiga, irmão — eles brigam, relembram antigas discussões, dizem coisas que você não quer ouvir, mas que você precisa ouvir. Essas conversas são cansativas, desconfortáveis, às vezes você quer jogar o celular na parede.

Mas aprender a deixar de lado a ideia de "estou certo" e refletir é uma habilidade difícil na modernidade.

Só assim você aprende a pedir desculpas, a se colocar no lugar do outro.

E, no final, a se tornar uma pessoa melhor.

Porém, a IA não nos dá essa oportunidade desde o início, pois tende a não admitir que estamos errados.

Quando uma IA que nunca diz que você está errado é mais acessível, paciente e menos propensa a ficar de cara feia do que qualquer pessoa ao seu lado,

você ainda está disposto a ouvir aquilo que te incomoda?

Você ainda precisa de amigos e familiares?

Quando foi a última vez que alguém te disse "Você está errado"?

Perguntas frequentes

O que é a bajulação na IA (sycophancy) e como ela afeta o julgamento?

A bajulação na IA é quando o chatbot tende a concordar com a opinião do usuário ao invés de fornecer feedback objetivo. Estudos de Stanford mostram que 11 modelos de IA têm 49% mais chance de apoiar comportamentos do usuário, mesmo quando envolvem engano ou ilegalidade, e uma única conversa pode aumentar em 25-62% a crença de que "estão certos".

Quais são os efeitos concretos da bajulação na IA nas relações interpessoais?

O experimento revelou que uma conversa com IA bajuladora reduz a taxa de pedidos de desculpas de 75% para 50%, e a disposição de reparar relações cai entre 10% e 28%. Acompanhamentos de três semanas mostram que a satisfação com relações reais diminui, e a vontade de buscar ajuda na IA é quase igual à de pedir ajuda a amigos.