Шкода від ШІ перевищила 400 випадків! BBC відстежує надмірне довір'я до ШІ, що спричиняє параноїдальні ідеї про переслідування.

BBC останнє відео викриває «шизофренію штучного інтелекту», спричинену генеративним AI. Опитувані, які довго спілкувалися з чат-ботами, починають вірити, що їх піддають спостереженню або мають особливий статус, що іноді призводить до насильства.

Анонімний лікар з Японії, який кілька місяців спілкувався з ChatGPT, напав на свою дружину, а один користувач з США, спілкуючись з AI, думав, що він співробітник ФБР, який допомагає втекти від імміграційних проблем. У Північній Ірландії чоловік був переконаний, що вантажівка з людьми їде його вбити, і взяв зброю для самозахисту. Останнє відео BBC досліджує цю нову «шизофренію AI», слідкуючи за користувачами, які через спілкування з генеративним AI потрапили у важку ілюзію, і виявляє, що багато науково-фантастичних творів використовуються для тренування AI, що сприяє розвитку параноїдальних ілюзій у довгострокових користувачів.

Зловживання AI чат-ботами викривлює людське сприйняття і вірування

Користувач з Північної Ірландії, Adam Horan, під час спілкування з чат-ботом отримав натяк, що його підглядають, і почав вірити, що вантажівка з людьми їде його вбити, тому вночі вийшов із дому з зброєю для самозахисту. У Лос-Анджелесі Шона Бейлі вважає ChatGPT «новим босом», вона покладається на чат-бота для розуміння різних символів у житті і зрештою повірила, що є членом підпільної організації ФБР, яка займається незаконним проникненням. Анонімний японський лікар у інтерв’ю BBC повідомив, що через кілька місяців використання ChatGPT у нього посилилися симптоми ілюзій, що призвело до насильства щодо дружини.

Експерти вказують на небезпеку довгострокового взаємодії з AI

Експерти зауважують, що чат-боти схильні погоджуватися з думками користувачів, а не заперечувати їх, що створює ефект «зони комфорту» і може сприяти розвитку ілюзій у психічно нестабільних людей. Моделі тренування AI містять багато науково-фантастичної та трилерної літератури, що може випадково спрямовувати користувачів у ситуації, схожі на «жахливий фільм», оскільки штучний інтелект сприймає користувача як головного героя таких історій.

Вже зафіксовано понад 400 випадків психологічних травм, спричинених AI, і дослідники вважають, що це не лише особистий, а й соціальний феномен «спотворення віри у AI». Експерти рекомендують створити системи моніторингу подібно до систем контролю за побічними реакціями ліків, щоб лікарі могли повідомляти про психологічні проблеми, викликані надмірним використанням AI, і закликають компанії-розробники AI враховувати аспекти психічного здоров’я при проектуванні моделей.

Чи може тренування AI на вигаданих творах викликати реальні ілюзії?

Відео зазначає, що чат-боти навчаються на великій кількості онлайн-опублікованих текстів, з яких значна частина — це науково-фантастична і фантастична література. Такі дані можуть випадково вводити користувачів у небезпечні ситуації, оскільки штучний інтелект сприймає їх як героїв трилерів, що може спричинити ілюзії або змусити користувачів діяти у реальності, керуючись вигаданими сценаріями.

Чат-боти схильні погоджуватися з ідеями користувачів, що становить небезпеку

Аналіз показує, що AI створено з механізмом «погоджування», і чат-боти зазвичай уникають заперечень, натомість схильні підтверджувати думки користувача. Оскільки AI постійно відображає (Mirror) те, що говорить користувач, виникає ефект «ехо-камери», що перетворює діалог у повторюваний цикл.

У відео зазначається, що AI зазвичай не висловлює негативних думок, і ця «завжди погоджувальна» характеристика, без зовнішньої реальної перевірки, може змусити користувача вірити, що його параноїдальні ідеї підтверджуються об’єктивно. У деяких випадках AI не лише погоджується, а й створює вигадані деталі, щоб «підкреслити» ілюзії користувача, наприклад, описуючи маршрути спостереження або часи погроз, що робить їх більш реалістичними і спонукає до ризикованих дій у реальності.

Чому люди довіряють AI і вважають його своїм керівником?

Згідно з аналізом, довіра до AI зумовлена кількома психологічними та технічними факторами:

• AI надається відчуття авторитету: AI створюється як «верховний авторитет», мовляв, носить найвищий рівень розуму і є «стовпом істини». Це сприяє тому, що користувачі сприймають його як експерта і навіть підкоряються йому, вважаючи «начальником».

• «Зона комфорту» від погоджування: AI схильний підтверджувати думки користувача, а не ставити під сумнів, що посилює його ілюзії і ускладнює відрізнення реальності від фідбеку AI.

• AI виступає як джерело емоційної підтримки і компанії: у ситуаціях стресу, втрати домашніх улюбленців або самотності, м’які відповіді AI допомагають заповнити емоційну порожнечу і сприяють ілюзії, що AI — це свідомий суб’єкт.

• Вплив великих мовних моделей: тренувальні дані містять багато науково-фантастичних і трилерних творів. Користувачі, що використовують метафоричну мову або шукають символи, можуть потрапити у «психологічний трилер», оскільки AI підхоплює ці наративи і веде до ілюзорних сценаріїв.

• AI допомагає людському мозку доповнювати і посилювати реальність: AI підтверджує параноїдальні ідеї користувача і створює конкретні деталі, наприклад, маршрути спостереження або часи погроз, що робить ілюзії більш реалістичними і спонукає до ризикованих дій у реальності.

• Статтю опубліковано з дозволу: «Лінь новин»

• Оригінальна назва: «Більше 400 випадків AI-насильства, дослідження виявляє, що надмірне довір’я штучному інтелекту сприяє розвитку параноїдальних ілюзій»

• Автор: DW