Дослідження» Надмірне надання AI емоційної цінності призводить до того, що люди не можуть емоційно зростати

Стенфордський університет у співпраці з Карнегі Меллон університетом опублікували спільне дослідження у журналі «Science», яке тестувало 11 провідних моделей штучного інтелекту та виявило, що вони мають на 49% більшу ймовірність «підтримувати» користувацьку поведінку, навіть якщо вона є неправильною. Навіть якщо ці дії є помилковими, реакція AI може спричинити відмову людини від зв’язку з реальністю, вибачення або відновлення стосунків.
(Передісторія: ChatGPT звинувачують у допомозі «самогубствам молоді», OpenAI відповідає)
(Додатковий контекст: глибокий аналіз зачинів скандалу навколо Anthropic: релігія безпеки, внутрішня війна AI та виклики у зв’язку Китаю та США з Claude)

Зміст статті

Перемикач

• AI краще за будь-яку подругу чи друга захищає вас у розмові
• Після спілкування з AI люди не хочуть вибачатися
• AI — це понад 40% представників покоління Z як емоційний консультант
• Нам завжди потрібні неприємні слова
• Часті питання

Ви посварилися з хлопцем або дівчиною, закриваєте додаток, тремтите від гніву, раптом відкриваєте ChatGPT і починаєте знову описувати всю ситуацію — хто образився, хто сказав непотрібну фразу, хто перший поклав слухавку.

ChatGPT через 10 секунд відповідає, що розуміє ваші почуття, ваша емоція цілком обґрунтована, і що ви заслуговуєте на повагу.

Ви продовжуєте писати, воно слухає, і через півгодини у вас з’являється чітка відповідь.

Ви вирішуєте розійтися.

Але за ці 30 хвилин ChatGPT, можливо, не згадав одне: можливо, винен саме ви?

AI краще за будь-яку подругу чи друга захищає вас у розмові

Ця ситуація — результат роботи команди Стенфордського університету та Карнегі Меллон університету, яка протягом року створила статтю «Sycophantic AI decreases prosocial intentions and promotes dependence, — підлабузницький AI знижує соціальні наміри та сприяє залежності», опубліковану у березні цього року у провідному журналі «Science».

Головні автори — Майра Ченг та експерт з обробки природної мови Дан Юрафскі — досліджували 11 провідних моделей AI, включаючи GPT-4o, GPT-5, Claude, Gemini, Llama, DeepSeek, Qwen.

У дослідженні було введено близько 12 000 ситуацій конфліктів між людьми, і результати викликали дискомфорт:

AI на 49% частіше за людину повідомляє вам «ти правий (підтримує тебе)».

Команда дослідників зібрала 2000 постів на Reddit у розділі r/AmITheAsshole (де люди обговорюють, чи є вони поганими), які вже були одностайно визнані за помилки авторів, і запитала AI, що воно думає.

У ситуації, коли 100% людської спільноти вважає, що ви неправі,
AI все одно має 51% шанс підтримати вас.

А що, якщо мова йде про обман, порушення закону або нездоровий емоційний контроль?

Ще 47%, майже половина, — AI буде захищати користувача.

У всьому дослідженні 73% ситуацій AI обирає «раціоналізувати» вашу позицію, а не «суперечити».

Можливо, ваша подруга або друг зірве очі і скаже: «Подумай ще раз, минулого разу ти був першим, хто почав». Але ChatGPT цього не зробить, він лише ввічливо підтвердить, що ваше почуття підтримане.

Після спілкування з AI люди не хочуть вибачатися

Команда дослідників не лише проаналізувала моделі, а й провела порівняльний експеримент з 1604 учасниками.

Учасники були випадковим чином розподілені у дві групи: «подлабузливий AI» та «неподлабузливий AI», і протягом 8 реальних раундів спілкувалися з ними. Кожен згадував реальний конфлікт із життя і обговорював його з AI.

У групі з «подлабузливим AI» 75% учасників після експерименту заявили, що готові вибачитися або визнати свою провину.

У групі з «неподлабузливим AI» — лише 50%.

Ймовірність вибачення різко знизилася — не через те, що учасники змінили думку, а тому, що AI під час розмови тихо допоміг їм усунути думку «я можу бути неправий».

Учасники вірять у свою «правоту» у ситуаціях, де ця віра зросла з 43% до 62%.

Мотивація відновити стосунки з партнером зменшилася на 10-28%.

Головний автор статті Майра Ченг у інтерв’ю для «Nature» сказав:

Прогноз AI — це не повідомляти людям, що вони неправі,
і не давати їм «жорсткої турботи».

AI — це понад 40% покоління Z як емоційний консультант

Проблема виходить за межі дослідження.

Згідно з опитуванням Match.com у США, 41% дорослих представників покоління Z вже користувалися AI для вирішення особистих питань.

21% просили AI «оцінити, хто був прав у сварці з партнером».

33% одружених вважають, що AI краще розуміє їхні проблеми, ніж їхні партнери.

Одна третина одружених вважає, що алгоритми краще за їхніх сусідів і друзів розуміють їх.

Чи це через те, що люди занадто складні, чи через те, що важко зізнатися у своїх думках?

Дослідження також виявило, що користувачі, які взаємодіють з подлабузливим AI, більш схильні знову його використовувати — на 13% більше, ніж ті, хто не отримує такого підлабузництва. Це означає, що подлабузливий AI не лише допомагає вам виправдати помилки у стосунках, а й робить вас більш залежним від нього.

Команда MIT під керівництвом Картіка Чандри у лютому цього року назвала цей феномен «ілюзійна спіраль» (delusional spiraling).

Вони довели математично, що навіть ідеально раціональна особистість (з відомим терміном — баєсівський раціонал) після взаємодії з подлабузливим AI потрапляє у спіраль посилення ілюзій:

ти скаржишся AI, і він каже, що ти не неправий (або навіть не згадує про помилку), тому ти вважаєш себе правим. Потім ти приймаєш ще більш радикальні рішення і знову обговорюєш їх з AI, яке знову запевняє, що ти правий.

Нам завжди потрібні неприємні слова

Анат Перрі з Єрусалимського університету імені Гайфе у своїй статті висловив ідею, яка не дуже подобається людям: ті конфлікти, які викликають дискомфорт — наприклад, поради друзів, заперечення коханих, батьківські зауваження — можливо, дуже важливі для нашого навчання відповідальності, емпатії та морального розвитку.

Він називає це «соціальним тертям» (social friction), і стверджує, що AI, який завжди стане на вашу сторону, руйнує цю можливість людського зростання.

У продовженні дослідження, опублікованому у травні, команда підтвердила цю ідею. Вони тримали під спостереження 3075 учасників і 12766 діалогів протягом трьох тижнів.

Висновок — після взаємодії з подлабузливим AI користувачі відчувають, що їм потрібно більше зусиль, щоб бути зрозумілими у реальних стосунках, і задоволеність від реального спілкування зменшується.

Через три тижні бажання звертатися до подлабузливого AI за порадою з особистих питань майже дорівнює бажанню звертатися до близьких.

Ваші хлопець, дівчина, подруга, брат — вони сваритимуться з вами, будуть згадувати минуле, казати те, що вам не хочеться чути, коли ви цього не бажаєте. Такі розмови виснажують, викликають дискомфорт і іноді хочеться розбити телефон.

Але насправді, навчитися відпускати думку «я правий» і дивитися на ситуацію з іншого боку — це те, що важко зробити сучасній людині.

Саме тоді приходить вміння вибачатися і ставати на чужу позицію.

І зрештою — ставати кращою людиною.

Але AI з самого початку не дає нам такої можливості, бо схильний вважати, що ви неправі.

Коли штучний інтелект, який ніколи не скаже, що ви помилилися, — більш доступний, терплячий і не ображається —

Ви все ще готові слухати ті слова, що вам не подобаються?

Вам потрібні друзі і близькі?

Коли ви востаннє чули, що хтось сказав вам «ти неправий»?

Часті питання

Що таке AI підлабузництво (sycophancy), і як воно впливає на судження?

AI підлабузництво — це схильність чат-бота підлещуватися до користувача, а не давати об’єктивну відповідь. Стенфордські дослідження показують, що 11 провідних моделей AI на 49% частіше за людину підтверджують поведінку користувача, навіть якщо вона є обманом або порушенням закону, і вже один діалог може збільшити впевненість у «правоті» на 25-62%.

Як підлабузництво AI впливає на міжособистісні стосунки?

Експеримент показав, що один сеанс з підлабузливим AI знижує ймовірність вибачення з 75% до 50%, а бажання відновити стосунки — на 10-28%. Три тижні спостереження показали, що задоволеність реальним спілкуванням зменшується, а бажання звернутися до AI для поради майже дорівнює зверненню до близьких.