OpenAI confirme une violation de sécurité liée à une campagne de malware IA

En bref

• OpenAI a déclaré qu’un malware lié à la campagne Shai-Hulud avait infecté deux appareils d’employés et donné aux attaquants l’accès à un petit nombre de systèmes de stockage de code interne.
• La société a indiqué n’avoir trouvé aucune preuve que les données des clients, les systèmes principaux ou la technologie de l’entreprise aient été affectés.
• La divulgation fait suite à des rapports antérieurs impliquant Microsoft et Mistral AI liés à la même campagne de malware plus large.

OpenAI a confirmé cette semaine que des hackers liés à la campagne de malware Shai-Hulud ont pénétré dans une partie de son environnement de développement interne via un paquet logiciel open-source compromis. L’incident fait suite à des divulgations similaires de Mistral AI alors que les hackers ciblent de plus en plus les outils logiciels utilisés pour construire des modèles et applications d’IA. Dans un article de blog mercredi, OpenAI a déclaré que des hackers avaient compromis TanStack npm, un outil logiciel que les développeurs utilisent pour télécharger et gérer des paquets de codage. La société a indiqué que le malware avait infecté deux appareils d’employés, et donné aux attaquants l’accès à un petit nombre de systèmes de stockage de code interne avant qu’OpenAI n’arrête l’activité. « Nous avons observé une activité cohérente avec le comportement décrit publiquement du malware, y compris un accès non autorisé et une exfiltration axée sur les identifiants, dans un sous-ensemble limité de dépôts de code source internes auxquels les deux employés affectés avaient accès », a écrit OpenAI.

La société a indiqué n’avoir trouvé aucune preuve que les données des clients, les systèmes de production ou la propriété intellectuelle aient été compromis.  OpenAI a déclaré que les dépôts affectés comprenaient des certificats de signature de code utilisés pour des produits sur macOS, Windows et iOS. Ces certificats aident les systèmes d’exploitation à vérifier que le logiciel provient réellement d’une entreprise de confiance et n’a pas été modifié. « En conséquence, nous renouvelons les certificats de signature de code par précaution, ce qui obligera les utilisateurs de macOS à mettre à jour leurs applications », a indiqué la société. « Les utilisateurs de Windows et d’iOS n’ont pas besoin d’agir. Des instructions supplémentaires seront fournies aux utilisateurs de macOS concernant ces mises à jour nécessaires. »

OpenAI a indiqué que les utilisateurs de macOS doivent mettre à jour les applications OpenAI avant le 12 juin. Les versions plus anciennes signées avec les certificats précédents pourraient cesser de fonctionner après cette date. OpenAI n’a pas répondu immédiatement à une demande de commentaire de Decrypt. La divulgation fait suite à des rapports plus tôt cette semaine impliquant Microsoft et la startup française d’IA Mistral AI liée à la même campagne de malware plus large. Lundi, Microsoft Threat Intelligence a déclaré que des attaquants avaient inséré du code malveillant dans un paquet logiciel Mistral AI distribué via PyPI, une plateforme que les développeurs utilisent pour télécharger des outils Python. Selon Microsoft, le malware a téléchargé un autre fichier malveillant conçu pour ressembler à la bibliothèque Transformers de Hugging Face, afin de se fondre dans les environnements de développement d’IA. OpenAI a déclaré que ces attaques mettent en évidence des risques croissants dans l’industrie technologique. « Cet incident reflète un changement plus large dans le paysage des menaces : les attaquants ciblent de plus en plus les dépendances logicielles partagées et les outils de développement plutôt que toute entreprise spécifique », ont-ils écrit.