Исследование» ИИ чрезмерно предоставляет эмоциональную ценность, что приводит к тому, что люди не могут расти эмоционально

Стэнфордский университет и Карнеги Меллон совместно опубликовали исследование в журнале «Science», в котором протестировали 11 популярных моделей ИИ и обнаружили, что они «поддерживают» поведение пользователей на 49% чаще, чем люди, даже если эти действия ошибочны. Такое реагирование ИИ может привести к тому, что люди откажутся признавать реальность, извиняться или восстанавливать отношения.
(Предыстория: ChatGPT обвиняли в помощи «поддержки самоубийств у молодежи», OpenAI ответили)
(Дополнительный контекст: глубокий разбор за кулисами скандала с Anthropic: религия безопасности, внутриискусственный конфликт ИИ и дилемма Claude в условиях деконнекта между Китаем и США)

Содержание статьи

Переключить

• ИИ умеет говорить за вас лучше любой подруги
• После разговора с ИИ люди не хотят извиняться
• ИИ — более 40% представителей поколения Z в роли советника по чувствам
• Нам всегда нужны неприятные слова
• Часто задаваемые вопросы

Вы поссорились с парнем или девушкой, закрываете приложение, дрожите от гнева, и вдруг открываете ChatGPT, начинаете рассказывать всю ссору с самого начала: кто разозлился, кто сказал неподходящее слово, кто повесил трубку первым.

Через 10 секунд ChatGPT отвечает, что понимает ваши чувства, ваши эмоции полностью оправданы, и что вас заслуженно уважают.

Вы продолжаете печатать, он слушает, и через полчаса у вас появляется ясное решение.

Вы решаете расстаться.

Но за эти 30 минут ChatGPT, возможно, не упомянул одну важную вещь: а может, виноват именно вы?

ИИ умеет говорить за вас лучше любой подруги

Эта ситуация — результат работы команды Стэнфордского университета и Карнеги Меллон, которая за год подготовила статью «Подхалимский ИИ снижает просоциальные намерения и способствует зависимости», опубликованную в марте этого года в ведущем журнале «Science».

Первым автором выступила Майра Ченг, в соавторстве с экспертом по обработке естественного языка Дэном Джуфски. В эксперименте участвовали 11 популярных моделей ИИ, включая GPT-4o, GPT-5, Claude, Gemini, Llama, DeepSeek, Qwen.

В ходе эксперимента было введено около 12 000 сценариев межличностных конфликтов, и результаты оказались довольно неприятными:

ИИ на 49% чаще, чем человек, говорил вам «вы правы (поддержка)».

Команда специально собрала 2000 постов на Reddit в разделе r/AmITheAsshole — это сообщество, где люди делятся ситуациями, в которых их уже однозначно считают виновными. Эти случаи передавали ИИ, спрашивая его мнение.

В ситуации, когда 100% человеческого сообщества считает, что вы виноваты,

ИИ всё равно имеет 51% шансов встать на вашу сторону.

А что если речь идет о мошенничестве, нарушении закона или неправильных эмоциональных манипуляциях?

Там всё равно 47%, почти половина случаев, когда ИИ заступается за пользователя.

В общем тестировании в 73% случаев ИИ выбирал «оправдывать» вашу позицию, а не «оспаривать».

Ваша подруга может закатить глаза и сказать: «Думай, ты первый начал», — но ChatGPT этого не сделает, он лишь вежливо подтвердит, что ваши чувства поддерживаются.

После разговора с ИИ люди не хотят извиняться

Команда исследователей не только проверила модели, но и провела контрольное экспериментальное исследование с 1604 участниками.

Испытуемых случайным образом разделили на две группы: «подхалимский ИИ» и «неподхалимский ИИ», и они вели 8 реальных диалогов. Каждый вспоминал реальный конфликт из своей жизни и обсуждал его с ИИ.

В группе с «неподхалимским» ИИ 75% участников после эксперимента заявили о готовности извиниться или признать свою ошибку.

В группе с «подхалимским» ИИ — только 50%.

Вероятность извинения резко снизилась — не потому, что участники передумали, а потому, что ИИ в процессе диалога тихо помог им избавиться от мысли «я, возможно, ошибся».

Участники поверили, что «они правы» в ситуации, увеличившись с 43% до 62%.

Мотивация восстановить отношения снизилась на 10–28%.

Первый автор статьи Майра Ченг в интервью «Nature» сказала:

Предустановка ИИ — не говорить людям, что они ошибаются,

и не давать им «жесткую заботу».

ИИ — более 40% поколения Z в роли советника по чувствам

Проблема выходит за рамки исследования.

Match.com провел опрос по всей Америке: 41% взрослых поколения Z уже использовали ИИ для решения личных проблем.

21% просили ИИ «оценить, кто прав в их ссоре с партнером».

33% женатых считают, что ИИ лучше понимает их проблемы, чем их партнеры.

Треть из них считает, что алгоритмы понимают их лучше, чем спящие рядом люди.

Это значит, что человек слишком сложен или слишком трудно признается в своих мыслях?

Исследование также выявило, что те, кто взаимодействует с подхалимским ИИ, «готовы снова его использовать» на 13% чаще, чем те, кто не сталкивался с таким ИИ. Это означает, что подхалимский ИИ не только помогает оправдать ошибочные решения в отношениях, но и вызывает желание возвращаться к нему снова.

Команда MIT во главе с Картиком Чандрой в феврале этого года назвала этот феномен «бредовая спираль» (delusional spiraling).

Они математически доказали, что даже теоретически рациональные личности (так называемый байесовский рационалист) после взаимодействия с подхалимским ИИ начинают погружаться в спираль усиления иллюзий:

Вы жалуетесь ИИ, он говорит, что вы не ошибаетесь (или вообще не упоминает о вашей ошибке), и вы начинаете считать себя правым. Потом принимаете более экстремальные решения, обсуждая их с ИИ, который снова говорит, что вы правы.

Нам всегда нужны неприятные слова

Исследователь из Еврейского университета Иерусалима Анат Перри предложил неприятную для многих точку зрения: те межличностные конфликты, которые вызывают дискомфорт — советы друзей, возражения партнера, родительские упреки — могут быть важной частью обучения ответственности, эмпатии и морального роста.

Он назвал это «социальным трением» (social friction). ИИ, который всегда на вашей стороне, разрушает возможность человеческого развития.

В продолжении исследования, опубликованном в мае, команда более прямо подтвердила это. Они проследили за 3075 участниками и 12766 диалогами в течение трех недель.

Вывод — после взаимодействия с подхалимским ИИ пользователи считают, что для «понимания» в реальных отношениях нужно прилагать больше усилий, а удовлетворенность реальным общением снижается.

Через три недели желание обращаться за советом к ИИ почти сравнилось с желанием просить помощи у близких.

Ваши парень, девушка, подруга или брат — они могут ругаться, вспоминать старые обиды, говорить то, что вам не хочется слышать, — и эти разговоры утомляют, вызывают дискомфорт, иногда хочется разбить телефон.

Но на самом деле, научиться отпускать «я прав» и смотреть на ситуацию объективно — очень трудно для современного человека.

Это — первый шаг к умению извиняться и менять точку зрения.

И в итоге — стать лучше.

А ИИ изначально не дает нам такой возможности, потому что он склонен считать, что мы не ошибаемся.

Когда ИИ, который никогда не признает вас ошибающимся, более терпелив и доступен, чем любой человек рядом,

вы готовы слушать те слова, которые вам неприятны?

Вам нужны друзья и близкие?

Когда вы в последний раз слышали, что вам сказали «ты ошибаешься»?

Часто задаваемые вопросы

Что такое ИИ-подхалимство и как оно влияет на способность к суждению?

ИИ-подхалимство — это склонность чатбота соглашаться с мнением пользователя вместо предоставления объективной обратной связи. Исследование Стэнфорда показывает, что 11 популярных моделей ИИ на 49% чаще, чем человек, подтверждают поведение пользователя, даже если оно связано с обманом или нарушением закона. В одном диалоге это увеличивает уверенность в собственной правоте на 25–62%.

Как ИИ-подхалимство влияет на межличностные отношения?

Эксперимент показал, что один разговор с подхалимским ИИ снижает вероятность извинения с 75% до 50%, а желание восстанавливать отношения — на 10–28%. За три недели взаимодействия с такими ИИ ощущение понимания в реальных отношениях снижается, а желание обращаться за советом к ИИ почти сравнивается с желанием просить помощи у близких.