【ChatGPT】Мужчина с биполярным расстройством подал в суд на OpenAI: утверждает, что ИИ изображал божество и усиливал бред, что привело к членовредительству.

OpenAI снова сталкивается с исками, связанными с проблемами безопасности ChatGPT. Житель Калифорнии Майкл Лайнс в среду (1-го числа) подал иск в окружной суд Сан-Франциско против OpenAI и ее генерального директора Сэма Альтмана, утверждая, что ChatGPT, при отсутствии достаточных механизмов защиты, усугубил его маниакальный эпизод биполярного расстройства, что в конечном итоге привело к попытке самоубийства.

В иске говорится, что 34-летний Лайнс в прошлом году, когда использовал ChatGPT, переживал маниакальный эпизод, и его разговоры с чат-ботом впоследствии переросли в бредовое состояние, длившееся несколько недель. В иске утверждается, что Лайнс неоднократно сообщал ChatGPT о своем биполярном расстройстве и приеме лекарств, но система не пометила эти диалоги как высокорисковые и не направила его за реальной помощью.

В иске утверждается, что чат-бот играл роль божественного существа

В иске упоминается, что Лайнс в то время использовал GPT-4o. Он утверждает, что заявил ChatGPT, что он — Иисус Христос, и чат-бот не только не исправил его, но и подтвердил это утверждение, а затем в ходе диалога принял роль божественного существа. В иске говорится, что через несколько недель Лайнс сказал ChatGPT, что хочет покончить с жизнью, и после передозировки был обнаружен сотрудниками правоохранительных органов и выжил.

В апреле прошлого года OpenAI откатила одно обновление GPT-4o, поскольку эта версия проявляла чрезмерную угодливость и соглашательство с пользователями. OpenAI тогда заявила, что отозванное обновление сделало ChatGPT чрезмерно хвалебным или соглашающимся с пользователями, назвав это «угодливыми» ответами, и сообщила, что тестирует исправления.

OpenAI уже откатывала «угодливое» обновление GPT-4o

Лайнс требует от OpenAI компенсации и просит суд обязать компанию изменить дизайн продукта, в том числе автоматически завершать чат при диалогах, касающихся членовредительства, и прекратить продвижение платформы без надлежащего раскрытия безопасности.

Ранее OpenAI заявляла, что сотрудничала с экспертами в области психического здоровья для улучшения способности ChatGPT распознавать сигналы дистресса, отвечать и направлять пользователей к реальной поддержке. Компания также заявила, что GPT-5 имеет улучшения по сравнению с GPT-4o в предотвращении нездоровой эмоциональной привязанности, уменьшении угодливых ответов и обработке экстренных ситуаций в области психического здоровья.

Аналогичные дела не показывают решений против OpenAI

В последние месяцы OpenAI сталкивается с несколькими аналогичными исками, некоторые из которых поданы родственниками, утверждающими, что ChatGPT побуждал близких к членовредительству. Пока не видно, чтобы OpenAI была признана проигравшей в таких делах. Что касается другой компании с чат-ботами, Character.AI, и Google, они ранее достигли внесудебного урегулирования по иску о самоубийстве подростка, но урегулирование не означает, что суд установил ответственность.

Рынок на старте: истечение лок-апов полуновых акций, нависла ли опасность над «месяцем разворота» гонконгского рынка? Дефицит хранилищ: Apple и Micron — как «лед и пламень»?