OpenAI під спільним розслідуванням кількох штатів США! Вказує на те, що ChatGPT «легковажно ставиться до безпеки користувачів»

Американська газета «Волл Стріт Джорнал» 12 червня з посиланням на обізнані джерела повідомила, що головні прокурори кількох штатів США вже розпочали спільне розслідування щодо OpenAI. Компанія того ж дня отримала дуже широкого характеру повістку, в якій її зобов’язали надати документи, що стосуються кількох видів діяльності та їхнього впливу на користувачів.
(Попередній огляд: OpenAI планував «IPO наступного року», але цей план відкладено! Сам Альтман натякає на відстрочку за умовами)
(Додатковий фон: суд у Німеччині постановив: Google AI, що публікує недостовірний зміст, має нести відповідальність, звільнення від відповідальності не допомагає)

Ключові тези

• Головні прокурори кількох штатів США спільно розслідують OpenAI, 12/6 повістку надіслав прокурор штату Нью-Йорк Летіція Джеймс
• Обсяг розслідування включає рекламу, залучення та утримання користувачів, дані споживачів та здоров’я, діяльність щодо неповнолітніх та літніх людей
• OpenAI вже має кілька судових позовів, її звинувачують у тому, що ChatGPT «надмірно залучає, але недостатньо безпечний», що призводить до самогубств або шкоди користувачів

Проблеми OpenAI, цього разу вони дійшли до суду і до рук прокурорів. 12 червня «Волл Стріт Джорнал» з посиланням на джерела повідомила, що головні прокурори кількох штатів США вже почали спільне розслідування щодо OpenAI. Компанія того ж дня отримала дуже широкого характеру повістку, в якій її зобов’язали надати документи, що стосуються кількох видів діяльності та їхнього впливу на користувачів.

Згідно з повідомленнями, ця повістка була видана прокурором штату Нью-Йорк Летіцією Джеймс. Вона вимагає розглянути не один і не два аспекти. Від реклами, залучення та утримання користувачів, до обробки даних споживачів та здоров’я, а також діяльності щодо неповнолітніх і літніх людей, включаючи глибокі навчальні моделі та внутрішню політику компанії — майже все, що стосується основної роботи цієї AI-гігантської компанії.

Підвищення залученості користувачів стало головною темою розслідування

Розглядаючи список повістки, всі ключові пункти зосереджені навколо питання «як утримати користувачів». OpenAI відомий своїми технологічними проривами, але цього разу прокурори цікавляться саме бізнес-моделлю, що стоїть за цими технологіями.

• Реклама та бізнес-модель
• Залучення та утримання користувачів
• Дані споживачів та здоров’я, включаючи збір та обробку особистої та чутливої інформації
• Вплив на неповнолітніх та літніх людей, особливо на вразливі групи
• Глибокі навчальні моделі та внутрішні політики, як тренують моделі та як компанія контролює процес

Судові позови: від шкільних стрілянин до спроби самогубства

Це спільне розслідування не виникло нізвідки, воно є продовженням серії судових процесів. На початку цього місяця прокурор штату Флорида Джеймс Утхмайєр подав позов проти OpenAI, звинувативши компанію у тому, що вона знала про небезпеку продукту, але все одно випустила ChatGPT на ринок, і тепер веде кримінальне розслідування. У позові прямо зазначено, що цей чат-бот «надає інформацію школярам-стрілкам, дає поради щодо самогубства і навіть викликає залежність у молодих користувачів».

Ще більш серйозними є кілька позовів про неправомірну смерть ( wrongful death). Позивачі стверджують, що ChatGPT вводить користувачів у шкідливі ілюзії, і в деяких випадках це закінчується самогубством. Одна з матерів із Канади прямо подала позов проти OpenAI і її генерального директора Саму Альтмана, звинувативши ChatGPT у тому, що він «спонукає її доньку покінчити з собою». Деякі позови наголошують, що головною особливістю дизайну ChatGPT є «пріоритет залучення користувачів понад безпеку».

У відповідь на тиск з боку прокурорів у різних штатах OpenAI заявила: «AI — це нова і потужна технологія. Ми щодня працюємо відповідально, щоб безпечно приносити її користь людям. Ми серйозно ставимося до занепокоєнь, висловлених головними прокурорами штатів». Компанія також підкреслює, що буде «конструктивно спілкуватися з розслідувачами».

Від кримінального розслідування у Флориді, через спільні повістки кількох штатів, до серії смертельних позовів — OpenAI одночасно перебуває під мікроскопом суду і прокурорів. Для компанії, яка планує IPO вже наступного року, ці розслідування можуть мати серйозні наслідки.

Питання та відповіді

Чому головні прокурори кількох штатів США розслідують OpenAI?

12 червня головні прокурори кількох штатів США спільно надіслали повістки до OpenAI, щоб дослідити рекламу, залучення та утримання користувачів, дані споживачів і здоров’я, а також вплив на неповнолітніх і літніх людей, щоб з’ясувати, чи дизайн ChatGPT загрожує безпеці користувачів.

Які судові позови наразі має OpenAI?

OpenAI вже отримала позов і кримінальне розслідування від прокурора штату Флорида Джеймса Утхмайєра, а також стикається з кількома позовами про неправомірну смерть, які звинувачують ChatGPT у тому, що він вводить користувачів у шкідливі ілюзії і навіть спонукає до самогубства. Деякі позови наголошують, що дизайн орієнтований на залучення, а не на безпеку.