OpenAI подтверждает утечку безопасности, связанную с кампанией вредоносного ПО на базе ИИ

Вкратце

• OpenAI заявил, что вредоносное ПО, связанное с кампанией Shai-Hulud, заразило устройства двух сотрудников и предоставило злоумышленникам доступ к небольшому числу внутренних систем хранения кода.
• Компания заявила, что не обнаружила доказательств того, что данные клиентов, основные системы или технологии компании были затронуты.
• Раскрытие информации последовало за ранее опубликованными сообщениями, связанными с Microsoft и Mistral AI, причастными к той же широкой кампании по распространению вредоносного ПО.

OpenAI подтвердил на этой неделе, что хакеры, связанные с кампанией Shai-Hulud, взломали части своей внутренней среды разработки через скомпрометированный пакет с открытым исходным кодом. Этот инцидент последовал за аналогичными сообщениями от Mistral AI, поскольку хакеры все чаще нацеливаются на программные инструменты, используемые для создания моделей и приложений ИИ. В блоге в среду OpenAI сообщил, что злоумышленники скомпрометировали TanStack npm, инструмент для скачивания и управления пакетами кода, используемый разработчиками. Компания заявила, что вредоносное ПО заразило устройства двух сотрудников и предоставило злоумышленникам доступ к небольшому числу внутренних систем хранения кода, прежде чем OpenAI остановила активность. «Мы наблюдали активность, соответствующую публично описанному поведению вредоносного ПО, включая несанкционированный доступ и деятельность по эксфильтрации учетных данных, в ограниченном наборе внутренних репозиториев исходного кода, к которым имели доступ два пострадавших сотрудника», — написала OpenAI.

Компания заявила, что не обнаружила доказательств того, что данные клиентов, производственные системы или интеллектуальная собственность были скомпрометированы.  OpenAI сообщил, что пострадавшие репозитории включали сертификаты подписи кода, используемые для продуктов на macOS, Windows и iOS. Эти сертификаты помогают операционным системам удостовериться, что программное обеспечение действительно исходит от доверенной компании и не было изменено. «В связи с этим мы обновляем сертификаты подписи кода в качестве меры предосторожности, что потребует от пользователей macOS обновить свои приложения», — заявила компания. «Пользователям Windows и iOS не нужно предпринимать никаких действий. Дополнительные инструкции будут предоставлены пользователям macOS относительно необходимых обновлений.»

OpenAI заявила, что пользователи macOS должны обновить приложения OpenAI до 12 июня. Старые версии, подписанные предыдущими сертификатами, могут перестать работать после этой даты. OpenAI не сразу ответила на запрос о комментарии от Decrypt. Раскрытие информации последовало за сообщениями ранее на этой неделе, связанных с Microsoft и французским стартапом Mistral AI, причастными к той же широкой кампании по распространению вредоносного ПО. В понедельник Microsoft Threat Intelligence заявил, что злоумышленники вставили вредоносный код в программный пакет Mistral AI, распространяемый через PyPI, платформу, которую используют разработчики для скачивания инструментов Python. По словам Microsoft, вредоносное ПО загрузило другой вредоносный файл, предназначенный для имитации популярной библиотеки Transformers от Hugging Face, чтобы он мог сливаться с средами разработки ИИ. OpenAI заявил, что атаки подчеркивают растущие риски в технологической индустрии. «Этот инцидент отражает более широкое изменение в ландшафте угроз: злоумышленники все чаще нацеливаются на совместные программные зависимости и инструменты разработки, а не на отдельные компании», — написали они.