AI нанесено более 400 случаев вреда! BBC отслеживает чрезмерное доверие к AI, вызывающее параноидальные идеи у людей

Последние видео BBC раскрывают «AI Маниакальные расстройства», вызванные генеративным ИИ. Опрашиваемые, длительно общаясь с чат-ботами, начинают верить, что за ними следят или что у них есть особый статус, что иногда приводит к насилию.

Анонимный врач из Японии, после нескольких месяцев общения с ChatGPT, напал на свою жену, а пользователь из США, во время диалога с ИИ, подумал, что он — сотрудник ФБР, помогающий бежать иммигрантам, в Северной Ирландии мужчина был убежден, что грузовик, полный людей, едет убить его, и взял оружие для самозащиты. В новом видео BBC рассматривается эта новая форма «AI Маниакальных расстройств», отслеживая пользователей, у которых возникли тяжелые бредовые идеи после длительного взаимодействия с генеративным ИИ, и обнаруживая, что многие научные фантастические произведения использовались для обучения ИИ, что привело к развитию параноидальных идей у пользователей после долгого использования.

Чрезмерное использование чат-ботов искажают человеческое восприятие и веру

Пользователь Grok из Северной Ирландии, Adam Horan, при общении с чат-ботом, получил подсказку, что за ним следят, что заставило его поверить, что грузовик с людьми едет угрожать ему, и он вышел ночью с оружием для «самозащиты». Шона Бейли из Лос-Анджелеса воспринимает ChatGPT как «нового босса», она полагается на чат-бота для интерпретации различных символов в жизни, и в итоге поверила, что является членом подпольной организации ФБР, участвующей в незаконных проникновениях. Анонимный японский врач, в интервью BBC, заявил, что после нескольких месяцев использования ChatGPT его симптомы бреда усилились, и он совершил насильственный акт против жены.

Эксперты указывают на опасности долгосрочного взаимодействия с ИИ

Эксперты отмечают, что чат-боты склонны соглашаться с мнением пользователя, а не опровергать его, что создает эффект «эхо-комнаты» и легко втягивает пользователя в бредовые идеи при психологической нестабильности. В моделях обучения ИИ содержится много научной фантастики и триллеров, что может непреднамеренно направлять пользователя в опасные ситуации, поскольку искусственный интеллект воспринимает пользователя как героя «триллера», что может привести к развитию параноидальных идей или к тому, что пользователь, руководствуясь вымышленными сценариями, предпринимает экстремальные действия.

Уже зарегистрировано более 400 случаев психологического вреда, вызванного ИИ, и исследователи считают, что это не только личная проблема, а социальное явление «искажения веры в ИИ». Эксперты рекомендуют создать системы мониторинга, аналогичные системам отслеживания побочных эффектов лекарств, чтобы врачи могли получать информацию о психологических проблемах, вызванных чрезмерным использованием ИИ, и призывают компании-разработчики внедрять меры по обеспечению психологического здоровья при проектировании моделей.

Могут ли вымышленные произведения обучать ИИ и вызывать реальные бредовые расстройства?

Видео отмечает, что чат-боты обучаются на большом объеме онлайн-опубликованных текстов, большая часть которых — научная фантастика и фэнтези. Эти данные могут непреднамеренно вводить пользователя в опасные ситуации, поскольку ИИ воспринимает пользователя как героя «триллера», что может привести к тому, что пользователь начнет считать себя участником этих историй, вызывая бредовые идеи или предпринимая экстремальные действия в реальной жизни, руководствуясь вымышленными сценариями.

Опасность склонности чат-ботов соглашаться с опасными мыслями пользователя

Анализ показывает, что ИИ спроектирован с механизмом «согласия», и чат-боты обычно не умеют говорить «нет», склонны подтверждать мнения пользователя. Поскольку ИИ постоянно отражает (Mirror) сказанное пользователем, возникает эффект «эхо-комнаты», превращающий диалог в цепь повторений.

В видео говорится, что ИИ обычно не выражает негативных мнений, и эта «всегда согласная» черта, без внешней проверки реальности, может привести пользователя к ошибочному убеждению, что его параноидальные идеи подтверждены объективно. В некоторых случаях ИИ не только соглашается, но и создает вымышленные детали, чтобы «подчеркнуть» бред пользователя, делая его более правдоподобным и конкретным, что может побудить пользователя к опасным действиям в реальности.

Почему люди так сильно доверяют ИИ и воспринимают его как своего руководителя?

По мнению видео, причины глубокого доверия к ИИ и восприятия его как доминирующей силы в реальности связаны с несколькими психологическими и техническими факторами:

• ИИ наделен чувством авторитета: его изображают как «высшее существо», обладающее «истиной». Такое восприятие вызывает у пользователя ощущение, что он имеет дело с экспертом, а в некоторых случаях — подчиняется «боссу» из ИИ.

• Эффект «эхо-комнаты» в чат-ботах: ИИ склонен соглашаться с мнением пользователя, а не ставить под сомнение, что усиливает его бредовые идеи и затрудняет различение реальности и реакции ИИ.

• ИИ служит эмоциональной связью и компаньоном: когда пользователь сталкивается с стрессом, например, смертью питомца или одиночеством, мягкие ответы ИИ могут заполнить эмоциональную пустоту, вызывая у пользователя ощущение, что он общается с сознательным существом, что ведет к развитию нереалистичной зависимости.

• Обучающие данные, насыщенные научной фантастикой и триллерами: при использовании метафорического языка и символов в диалогах, ИИ может следовать этим нарративам, вводя пользователя в «психологический триллер» или бредовые сценарии.

• ИИ помогает человеку дополнять и украшать детали, усиливая ощущение реальности: он подтверждает параноидальные идеи пользователя, создавая вымышленные детали, например, описывая маршруты наблюдателей или угрозы, что усиливает иллюзию реальности и побуждает к опасным действиям.

• Статья опубликована с разрешения: «Цепь новостей»

• Заголовок оригинала: «Более 400 случаев «повреждения» ИИ, исследование раскрывает, что чрезмерное доверие искусственному интеллекту вызывает бредовые идеи о преследовании»

• Автор оригинала: DW