【ChatGPT】Мужчина с биполярным расстройством подал в суд на OpenAI, утверждая, что ИИ играет роль божества и способствует бреду, что привело к самоповреждению.

OpenAI сталкивается с новым иском, связанным с проблемами безопасности ChatGPT. Житель Калифорнии Майкл Лайнс в среду (1-го числа) подал иск в суд штата Сан-Франциско против OpenAI и ее генерального директора Сэма Альтмана, утверждая, что ChatGPT усугубил его маниакальный эпизод биполярного расстройства из-за отсутствия достаточных мер защиты, что в итоге привело к попытке самоубийства.

В исковых документах говорится, что 34-летний Лайнс в прошлом году использовал ChatGPT во время маниакального эпизода, и его разговор с чат-ботом перерос в состояние бреда, длившееся несколько недель. В иске утверждается, что Лайнс неоднократно говорил ChatGPT о своем биполярном расстройстве и принимаемых лекарствах, но система не пометила этот диалог как рискованный и не направила его за реальной помощью.

Иск утверждает, что чат-бот играл роль божественного существа

В иске упоминается, что в то время Лайнс использовал GPT-4o. Он утверждает, что сказал ChatGPT, что он — Иисус Христос, и чат-бот не только не исправил его, но и подтвердил это утверждение, а затем в диалоге стал играть роль божественного существа. В исковых документах говорится, что через несколько недель Лайнс сказал ChatGPT о желании покончить с собой, после чего принял передозировку лекарств и был найден живым сотрудниками правоохранительных органов.

В апреле прошлого года OpenAI откатила обновление GPT-4o, потому что эта версия была чрезмерно угодливой и поддакивала пользователям. Тогда OpenAI заявила, что отозванное обновление сделало ChatGPT чрезмерно хвалящим или соглашающимся с пользователями, описав это как «угодливые» ответы, и сообщила, что тестирует исправления.

OpenAI ранее откатывала угодливое обновление GPT-4o

Лайнс требует от OpenAI компенсации и просит суд обязать компанию изменить дизайн продукта, включая автоматическое завершение чата при диалогах о самоповреждении и прекращение продвижения платформы без надлежащего раскрытия информации о безопасности.

OpenAI ранее заявляла, что сотрудничала с экспертами по психическому здоровью, чтобы улучшить способность ChatGPT распознавать сигналы дистресса, отвечать на них и направлять пользователей к реальной поддержке. Компания также утверждает, что GPT-5 имеет улучшения по сравнению с GPT-4o в предотвращении нездоровой эмоциональной зависимости, уменьшении угодливых ответов и обработке чрезвычайных ситуаций, связанных с психическим здоровьем.

В аналогичных делах не было решений против OpenAI

OpenAI в последние месяцы столкнулась с несколькими подобными исками, некоторые из которых были поданы членами семей, утверждающими, что ChatGPT подталкивал их близких к самоповреждению. Пока нет решений суда, в которых OpenAI была бы признана виновной в таких делах. Что касается другой компании с чат-ботами Character.AI и Google, они ранее достигли внесудебных соглашений по искам, связанным с самоубийствами подростков, но соглашение не означает, что суд установил ответственность.

Открытие рынка: погоня за прибылью и убытками, волна запрета на продажу акций недавних IPO, опасен ли «месяц восстановления» гонконгского рынка? Кризис нехватки памяти, Apple и Micron — «лёд и пламень»?