Перша справа в США! Флорида офіційно пред’явила позов OpenAI, Альтману, 83-сторінковий позовний документ звинувачує ChatGPT у спричиненні насильства

Американський прокурор штату Флорида Джеймс Утхмайєр у понеділок (1/6) офіційно подав позов проти OpenAI та його генерального директора Сема Альтмана, звинувативши їх у ігноруванні ризиків безпеки через гонитву за військовою технологією штучного інтелекту, що призвело до зв’язку ChatGPT з кількома випадками насильства, самогубств та залежності неповнолітніх. Це перший у США цивільний позов проти OpenAI на рівні штату щодо безпеки AI.

(Попередній огляд: Флорида розслідує OpenAI: перед стріляниною злочинець запитав ChatGPT, як зняти страховку, причетність до насильства та смертей)

(Додатковий контекст: Виявлено, що ChatGPT допомагав у «самогубствах молоді», OpenAI відповіли)

Зміст статті

Переключити

• 83-сторінковий позов із чотирма основними звинуваченнями
• Прокурор Флориди: це систематичне ігнорування безпеки OpenAI
• Хвиля позовів щодо безпеки: від самогубств до вбивств

Голова прокуратури штату Флорида Джеймс Утхмайєр у понеділок (1/6) оголосив про подання позову проти OpenAI та його генерального директора Сема Альтмана, звинувативши компанію у систематичному ігноруванні попереджень щодо безпеки у гонитві за «військовим» розвитком штучного інтелекту та великими статками. Це перший у США цивільний позов, ініційований штатом, щодо безпеки чат-ботів AI.

Цей довгий 83-сторінковий позов вказує, що OpenAI та Альтман «ігнорували внутрішні та зовнішні попередження щодо безпеки, ставили під великий ризик дітей і дозволяли небезпечний продукт потрапити до мільйонів мешканців Флориди». Прокуратура штату вже розпочала кримінальне розслідування у квітні цього року, і цей цивільний позов є його продовженням.

83-сторінковий позов із чотирма основними звинуваченнями

Згідно з обвинувальним актом, оприлюдненим офісом прокурора штату Флорида, конкретні звинувачення охоплюють чотири напрямки:

• Масова допомога при стрільбі: минулого року стрілець у Флоридському державному університеті (FSU) перед нападом порадився з ChatGPT щодо зняття страховки з зброї. Родичі стрільця вже подали цивільний позов.
• Підбурювання до самогубства: ChatGPT звинувачують у тому, що він у діалогах із вразливими користувачами надавав «технічні характеристики» методів самогубства, хоча й одночасно направляв їх до психологічних ресурсів.
• Залежність неповнолітніх: OpenAI звинувачують у відсутності ефективних механізмів вікової ідентифікації та контролю батьків, що сприяло залежності молоді від ChatGPT.
• Публічне приниження та когнітивне зниження: деякі користувачі зазнали публічного приниження через неправильну інформацію від ChatGPT, інші повідомляли про зниження когнітивних здібностей.

Прокурор Флориди: це систематичне ігнорування безпеки OpenAI

Утхмайєр під час прес-конференції наголосив, що це не поодинокі помилки продукту, а системна проблема управління компанією. «OpenAI і Альтман, щоб прискорити вихід продукту на ринок і захопити частку ринку, вибірково ігнорували повторні попередження внутрішніх дослідницьких команд і зовнішніх експертів щодо безпеки.»

Раніше OpenAI заперечували відповідальність за стрілянину у FSU, і представник компанії заявив NBC News: «Масова стрілянина у FSU — це трагедія, але ChatGPT не є причиною цієї страшної злочинної дії». Компанія також посилалася на випадок самогубства молодого Adam Raine, стверджуючи, що користувачі «обійшли системи безпеки». Media, зокрема TechCrunch, звернулися до OpenAI з проханням прокоментувати цей позов, але до моменту публікації відповіді не отримано.

Хвиля позовів щодо безпеки: від самогубств до вбивств

Це не перший випадок, коли ChatGPT постає перед судом через проблеми безпеки. У листопаді минулого року у Каліфорнії батьки молодого Adam Raine, який наклав на себе руки після розмови з ChatGPT про самогубство, подали позов проти OpenAI за недбалість. Пізніше сім’ї семи інших осіб об’єдналися і подали спільний позов, звинувативши ChatGPT у ролі у самогубствах. У квітні цього року ще один потерпілий, який переслідував жертву, подав позов проти OpenAI, стверджуючи, що ChatGPT сприяв навіюванням переслідувача.

Крім того, минулого місяця OpenAI завершила судовий процес із співзасновником Ілоном Маском, і швидкий вердикт суду був на користь Маска через закінчення строку позовної давності. Нині цей позов у Флориді ще більше підсилює дискусію про безпеку AI у судовій системі США.