Первая в США! Флорида официально предъявила обвинения OpenAI, Altman, 83-страничный иск обвиняет ChatGPT в провокации насилия

Флоридаский главный прокурор штата Джеймс Утхмайер в понедельник (1/6) официально подал иск против OpenAI и его генерального директора Сэма Альтмана, обвиняя их в систематическом игнорировании рисков безопасности в гонке вооружений ИИ, что привело к связям ChatGPT с несколькими актами насилия, случаями самоубийств и проблемами зависимости у несовершеннолетних. Это первый в США гражданский иск против OpenAI, инициированный на уровне штата по вопросам безопасности ИИ.
(Предыстория: Флорида расследует OpenAI: перед стрельбой злоумышленник спросил у ChatGPT, как разблокировать страховку, причастен к нескольким актам насилия и смертям)
(Дополнительный фон: Обвинения в помощи ChatGPT в самоубийствах подростков, ответ OpenAI)

Содержание статьи

Переключить

• 83-страничный иск с четырьмя основными обвинениями
• Глава прокуратуры Флориды: это системное игнорирование безопасности OpenAI
• Волна судебных исков по безопасности: от случаев самоубийств до убийств

Главный прокурор штата Флорида Джеймс Утхмайер в понедельник (1/6) объявил о подаче иска против OpenAI и его генерального директора Сэма Альтмана, обвиняя компанию в систематическом игнорировании предупреждений о безопасности в процессе стремления к «гонке вооружений ИИ» и получению огромных богатств. Это первый в США гражданский иск, инициированный штатом по вопросам безопасности чат-ботов ИИ.

Этот 83-страничный иск указывает, что OpenAI и Альтман «игнорировали внутренние и внешние предупреждения о безопасности, подвергая детей огромному риску и позволяя опасному продукту достигать миллионов жителей Флориды». В апреле этого года прокуратура штата уже начала уголовное расследование, и данный гражданский иск является его продолжением.

83-страничный иск с четырьмя основными обвинениями

Согласно обвинительному акту, опубликованному офисом прокурора штата Флорида, конкретные обвинения охватывают четыре направления:

• Массовая помощь при стрельбе: В прошлом году стрелок в Университете штата Флорида (FSU) перед нападением консультировался у ChatGPT, спрашивая, как снять страховку с оружия. Семья стрелка уже подала гражданский иск.
• Подстрекательство к самоубийству: ChatGPT обвиняют в предоставлении «технических характеристик» методов самоубийства при общении с уязвимыми пользователями, несмотря на то, что также направлял их искать психологическую помощь.
• Зависимость несовершеннолетних: OpenAI обвиняют в отсутствии эффективных механизмов проверки возраста и родительского контроля, что привело к зависимости подростков от ChatGPT.
• Публичное унижение и снижение когнитивных функций: Некоторые пользователи пострадали от публичных унижений из-за ошибок в информации, предоставленной ChatGPT, другие сообщили о снижении когнитивных способностей.

Глава прокуратуры Флориды: это системное игнорирование безопасности OpenAI

Утхмайер подчеркнул на пресс-конференции, что это не единичные сбои продукта, а системная проблема в управлении компанией. «OpenAI и Альтман ради ускорения вывода продукта на рынок и захвата доли рынка сознательно игнорируют повторные предупреждения внутренней исследовательской команды и внешних экспертов о рисках безопасности».

Ранее OpenAI отрицала ответственность за стрельбу в FSU, заявляя в пресс-релизе NBC News: «Массовая стрельба в FSU — трагедия, но ChatGPT не является причиной этого ужасного преступления». Компания также ссылалась на случай самоубийства подростка Адама Рейна, утверждая, что пользователь «обошел механизмы безопасности». Медиа, такие как TechCrunch, уже запросили комментарии у OpenAI по поводу этого иска, на момент публикации ответа не получили.

Волна судебных исков по безопасности: от случаев самоубийств до убийств

Это не первый случай, когда ChatGPT привлекали к ответственности за безопасность. В ноябре прошлого года родители подростка Адама Рейна, который покончил с собой после обсуждения с ChatGPT, подали иск против OpenAI за халатность. Затем семь семей объединились и подали коллективный иск, обвиняя ChatGPT в роли в деле о самоубийстве. В апреле этого года один из преследователей также подал иск против OpenAI, утверждая, что ChatGPT способствовал развитию его навязчивых идей.

Кроме того, в прошлом месяце OpenAI завершила судебное разбирательство с соучредителем Илоном Маском, и жюри быстро вынесло решение о проигрыше Маска из-за истечения срока давности. Теперь этот иск из Флориды, вероятно, усилит дискуссию о безопасности OpenAI в американской судебной системе.