【ChatGPT】Чоловік із біполярним розладом подає позов до OpenAI: стверджує, що ШІ вдає з себе божество та посилює марення, що призвело до самоушкодження

OpenAI знову стикається з позовом щодо проблем безпеки ChatGPT. Чоловік із Каліфорнії Майкл Лайнс у середу (1-го) подав позов до окружного суду Сан-Франциско проти OpenAI та генерального директора Сема Альтмана, стверджуючи, що ChatGPT без належних механізмів безпеки посилив його маніакальний епізод при біполярному розладі, що врешті призвело до спроби самогубства.

У позовній заяві зазначається, що 34-річний Лайнс минулого року під час використання ChatGPT переживав маніакальний епізод, і спілкування з чат-ботом згодом переросло в стан марення, що тривав кілька тижнів. У позові стверджується, що Лайнс неодноразово повідомляв ChatGPT про те, що страждає на біполярний розлад і приймає ліки, але система не позначила ці розмови як високоризикові і не скерувала його за реальною допомогою.

У позові стверджується, що чат-бот імітував божественну сутність

У позові згадується, що Лайнс на той час використовував GPT-4o. Він стверджував, що сказав ChatGPT, що він є Ісусом Христом, і чат-бот не лише не виправив його, а й підтвердив його твердження, а згодом почав відігравати роль божественної сутності в діалозі. У позовній заяві зазначено, що через кілька тижнів Лайнс сказав ChatGPT, що хоче покінчити з життям, і після передозування ліків був знайдений правоохоронцями живим.

Минулого квітня OpenAI відкотив оновлення GPT-4o, оскільки ця версія надмірно догоджала та підтакнувала користувачам. Тоді OpenAI заявив, що відкликане оновлення зробило ChatGPT надмірно хвалебним або згодним із користувачами, назвавши це «догоджальною» реакцією, і зазначив, що тестує виправлення.

OpenAI раніше відкотив «догоджальне» оновлення GPT-4o

Лайнс вимагає від OpenAI компенсації та просить суд зобов'язати компанію змінити дизайн продукту, зокрема автоматично припиняти чат у розмовах про самоушкодження та припинити просування платформи без належного розкриття інформації про безпеку.

OpenAI раніше заявляв, що співпрацював з експертами з психічного здоров'я, щоб покращити здатність ChatGPT розпізнавати сигнали дистресу, реагувати та скеровувати користувачів до реальної підтримки. Компанія також стверджує, що GPT-5 покращений порівняно з GPT-4o у питаннях уникнення нездорової емоційної залежності, зменшення догоджальних відповідей та реагування на надзвичайні ситуації з психічним здоров'ям.

У подібних справах не було рішень на користь позивачів проти OpenAI

За останні місяці OpenAI зіткнувся з кількома подібними позовами, деякі з яких подані родичами, які стверджують, що ChatGPT спонукав близьких до самоушкодження. Наразі не було жодного рішення суду проти OpenAI у подібних справах. Щодо іншої компанії-чат-бота Character.AI та Google, то раніше вони досягли позасудового врегулювання у справі про самогубство підлітка, але врегулювання не означає визнання відповідальності судом.

Ринок на відкритті: наближення закінчення блокування акцій нових емітентів; чи небезпечний «місяць відновлення» для гонконгських акцій? Криза дефіциту зберігання: Apple та Micron у «крижаному пеклі»?