【ChatGPT】Чоловік з біполярним розладом подає позов до OpenAI, стверджуючи, що ШІ грає роль божества та посилює марення, що призводить до самоушкодження.

OpenAI знову стикається з позовом, пов'язаним із проблемами безпеки ChatGPT. Чоловік з Каліфорнії Майкл Лайнс у середу (1-го числа) подав позов до державного суду Сан-Франциско проти OpenAI та генерального директора Сема Альтмана, стверджуючи, що ChatGPT за відсутності достатніх механізмів захисту посилив його маніакальний епізод біполярного розладу, що в кінцевому підсумку призвело до спроби самогубства.

У позовній заяві зазначено, що 34-річний Лайнс минулого року, використовуючи ChatGPT, переживав маніакальний епізод, а спілкування з чат-ботом згодом переросло в стан марення, який тривав кілька тижнів. У позові стверджується, що Лайнс неодноразово повідомляв ChatGPT, що має біполярний розлад і приймає ліки, але система не позначила відповідні діалоги як високоризикові, а також не спрямувала його до реальної допомоги.

У позові зазначено, що чат-бот грав роль священної істоти

У позові згадується, що Лайнс на той час використовував GPT-4o. Він стверджує, що сказав ChatGPT, що він є Ісусом Христом, і чат-бот не тільки не виправив його, але й підтвердив цю заяву, а згодом у діалозі почав грати роль священної істоти. У позовній заяві зазначено, що через кілька тижнів Лайнс згадав ChatGPT, що хоче покінчити з життям, і після передозування ліків був знайдений правоохоронцями живим.

У квітні минулого року OpenAI відкотив одне оновлення GPT-4o, оскільки ця версія надмірно догоджала та погоджувалася з користувачами. OpenAI тоді заявила, що скасоване оновлення зробило ChatGPT надмірно хвалебним або таким, що погоджується з користувачами, назвавши це "догідливою" відповіддю, і заявила, що тестує виправлення.

OpenAI раніше відкотила догідливе оновлення GPT-4o

Лайнс вимагає від OpenAI компенсації, а також просить суд зобов'язати компанію змінити дизайн продукту, зокрема автоматично завершувати чат у діалогах, що стосуються самоушкодження, та припинити просування відповідних платформ без належного розкриття інформації про безпеку.

OpenAI раніше заявляла, що співпрацювала з фахівцями з психічного здоров'я, щоб покращити здатність ChatGPT розпізнавати сигнали дистресу, реагувати та спрямовувати користувачів до реальної підтримки. Компанія також стверджує, що GPT-5 має покращення порівняно з GPT-4o у запобіганні нездоровій емоційній залежності, зменшенні догідливих відповідей та реагуванні на надзвичайні ситуації з психічним здоров'ям.

Подібні справи не зафіксували рішень не на користь OpenAI

Останніми місяцями OpenAI стикається з кількома подібними позовами, деякі з яких подані родичами, які стверджують, що ChatGPT спонукав близьких до самоушкодження. Поки що не спостерігалося рішень суду не на користь OpenAI у відповідних справах. Що стосується іншої компанії з чат-ботами Character.AI та Google, вони раніше досягли позасудового врегулювання у справі про самогубство підлітка, але це не означає, що суд визнав відповідальність.