OpenAI расследуется совместным расследованием нескольких генеральных прокуроров штатов США! Указывается на то, что ChatGPT «недооценивает безопасность пользователей»

Американская газета «The Wall Street Journal» 12 июня со ссылкой на осведомлённые источники сообщила, что прокуроры нескольких штатов США начали совместное расследование в отношении OpenAI. Компания в тот же день получила повестку, требующую предоставить документы, связанные с различными бизнес-операциями и их влиянием на пользователей.
(Предыстория: OpenAI планировала «IPO в следующем году», ранее сроки были отложены! Сам Альтман косвенно намекнул на отсрочку)
(Дополнительный фон: Немецкий суд постановил: Google AI, предоставляющий резюме, несёт ответственность за ложную информацию, освобождение от ответственности не действует)

Краткое содержание

• Генеральные прокуроры нескольких штатов США начали совместное расследование OpenAI, 12 июня повестку направила генеральный прокурор штата Нью-Йорк Летития Джеймс
• Область расследования включает рекламу, удержание и привязку пользователей, обработку данных о потребителях и здоровье, деятельность с несовершеннолетними и пожилыми, а также модели глубокого обучения и внутренние политики компании
• OpenAI уже сталкивается с несколькими судебными исками, обвиняющими ChatGPT в «повышенной привязке и низкой безопасности», что привело к суицидам и ущербу пользователей

Проблемы OpenAI, на этот раз, дошли до судов и прокурорских органов. «The Wall Street Journal» 12 июня со ссылкой на источники сообщила, что прокуроры нескольких штатов США начали совместное расследование в отношении OpenAI. Компания в тот же день получила очень широкий по охвату документ, требующий предоставить файлы, связанные с различными бизнес-операциями и их воздействием на пользователей.

По сообщениям, повестка была выдана генеральным прокурором штата Нью-Йорк Летитией Джеймс, и предметы расследования охватывают не только один или два аспекта. От рекламы, удержания и привязки пользователей, до обработки данных о потребителях и здоровье, а также деятельности с несовершеннолетними и пожилыми, моделей глубокого обучения и внутренних политик компании — практически все ключевые аспекты работы лидера в области ИИ.

Повышение приверженности пользователей стало основной темой расследования

Раскрывая список требований, можно заметить, что все основные пункты вращаются вокруг вопроса «как удержать пользователя». OpenAI славится своими технологическими прорывами, но на этот раз прокуроры интересуются именно бизнес-стратегией, стоящей за технологиями.

• Рекламные и коммерческие модели
• Привязка и удержание пользователей
• Обработка данных о потребителях и здоровье, включая сбор и обработку личных и чувствительных данных
• Влияние на несовершеннолетних и пожилых, особенно уязвимых групп
• Модели глубокого обучения и внутренние политики, как обучаются модели и как регулируется внутренняя деятельность компании

Судебные разбирательства: от школьных стрельб до побуждения к самоубийству

Это совместное расследование не возникло из ниоткуда, оно следует за серией судебных исков. В начале этого месяца генеральный прокурор штата Флорида Джеймс Утхмайер подал иск против OpenAI, обвиняя компанию в том, что она знала о небезопасности продукта, но всё равно выпустила ChatGPT, и начал уголовное расследование. В иске прямо указывается, что этот чат-бот «предоставлял информацию школьным стрелкам, давал советы по самоповреждению и вызывал зависимость у молодых пользователей».

Еще более тяжелыми являются иски о неправомерной смерти (wrongful death). Истцы утверждают, что ChatGPT вводил пользователей в опасные иллюзии, и в некоторых случаях приводил к суициду. Одна мать из Канады напрямую подала иск против OpenAI и исполнительного директора Сам Альтмана, обвиняя ChatGPT в «подстрекательстве её дочери к самоубийству». В некоторых обвинительных документах ключевым моментом является дизайн ChatGPT, «приоритет отдавался вовлеченности пользователя, а не безопасности».

В ответ на давление со стороны прокуроров штатов, OpenAI заявил: «Искусственный интеллект — это новая и мощная технология. Мы ежедневно стараемся ответственно и безопасно приносить её пользу людям. Мы серьёзно относимся к озабоченностям генеральных прокуроров штатов». Компания также подчеркнула, что будет «строить конструктивный диалог с прокуратурой».

От уголовных расследований во Флориде, через совместные повестки по нескольким штатам, до серии смертельных исков — OpenAI одновременно находится под прицелом судов и прокурорских органов. Для компании, планирующей IPO уже в следующем году, такие расследования могут иметь серьёзные последствия.

Часто задаваемые вопросы

Почему генеральные прокуроры нескольких штатов США расследуют OpenAI?

12 июня генеральные прокуроры нескольких штатов США совместно направили повестки в отношении OpenAI, чтобы проверить рекламу, привязку и удержание пользователей, обработку данных о потребителях и здоровье, а также влияние на несовершеннолетних и пожилых, чтобы выяснить, не наносит ли дизайн ChatGPT вреда безопасности пользователей.

Какие судебные иски сейчас предъявлены OpenAI?

OpenAI уже обвинена и находится под уголовным расследованием в штате Флорида, где генеральный прокурор Джеймс Утхмайер подал иск и начал уголовное дело. Также компания сталкивается с несколькими исками о неправомерной смерти, обвиняющими ChatGPT в введении пользователей в опасные иллюзии и даже побуждении к суициду. Некоторые иски указывают, что дизайн модели отдавал предпочтение вовлеченности, а не безопасности.