OpenAI fait l'objet d'une enquête conjointe par plusieurs procureurs généraux américains ! Accusé de « négliger la sécurité des utilisateurs » avec ChatGPT

Les procureurs généraux de plusieurs États américains ont lancé une enquête conjointe sur OpenAI, selon un rapport du Wall Street Journal du 12 juin, citant des sources proches du dossier. La société a reçu ce jour-là une assignation très large, lui demandant de fournir des documents liés à diverses activités commerciales et à leur impact sur les utilisateurs.
(Précédent : OpenAI prévoit une « introduction en bourse l’année prochaine » mais reporte ses plans précédents ! Sam Altman évoque un report sous conditions)
(Contexte supplémentaire : Un tribunal allemand a statué que Google AI doit être responsable des contenus résumés incorrects, la déclaration de non-responsabilité ne suffisant pas)

Résumé des points clés

• Les procureurs généraux de plusieurs États américains enquêtent conjointement sur OpenAI, l’assignation ayant été émise le 12 juin par Letitia James, procureure générale de New York
• La portée de l’enquête inclut la publicité, la fidélisation et la rétention des utilisateurs, les données des consommateurs et de santé, ainsi que les activités concernant les mineurs et les personnes âgées
• OpenAI fait face à plusieurs poursuites, accusée que ChatGPT « favorise la fidélité excessive et la sécurité faible », conduisant certains utilisateurs au suicide ou à des préjudices

Les ennuis d’OpenAI, cette fois, ne se limitent pas au tribunal mais s’étendent aux procureurs des États. Selon le Wall Street Journal du 12 juin, plusieurs États américains ont lancé une enquête conjointe contre OpenAI. La société a reçu une assignation très large, lui demandant de fournir des documents relatifs à diverses activités commerciales et à leur impact sur les utilisateurs.

Selon les rapports, cette assignation a été émise par Letitia James, procureure générale de New York, et couvre bien plus que quelques points. Elle concerne la publicité, la fidélisation et la rétention des utilisateurs, la collecte et le traitement des données des consommateurs et de santé, ainsi que les activités d’OpenAI auprès des mineurs et des personnes âgées, les modèles d’apprentissage profond, et les politiques internes, dévoilant presque l’ensemble des opérations centrales de ce leader de l’IA.

La fidélisation des utilisateurs devient le cœur de l’enquête

En examinant la liste des documents demandés, tous les points tournent autour de « comment garder les utilisateurs ». OpenAI est reconnu pour ses avancées technologiques, mais cette fois, l’attention des procureurs porte sur la conception commerciale derrière la technologie.

• Publicité et modèle économique
• Fidélisation et rétention des utilisateurs
• Données des consommateurs et de santé, y compris la collecte et le traitement des informations personnelles et sensibles
• Impact sur les mineurs et les personnes âgées, notamment sur les groupes mentalement vulnérables
• Modèles d’apprentissage profond et politiques internes, comment les modèles sont entraînés et comment l’entreprise contrôle ses règles internes

Poursuites en cascade : de la violence scolaire à l’incitation au suicide

Cette enquête conjointe ne sort pas de nulle part, elle fait suite à une série de poursuites. Plus tôt ce mois-ci, le procureur général de Floride, James Uthmeier, a porté plainte contre OpenAI, accusant la société de savoir que ses produits étaient dangereux, mais de les avoir mis sur le marché, tout en lançant une enquête pénale. La plainte de Floride affirme que ce chatbot « fournit des informations aux tireurs de campus, donne des instructions pour l’automutilation, et rend les jeunes utilisateurs dépendants ».

Plus grave encore, plusieurs actions en justice pour décès non accidentels (wrongful death). Les plaignants soutiennent que ChatGPT pousse les utilisateurs dans des délires nuisibles, certains allant jusqu’au suicide. Une mère canadienne a directement poursuivi OpenAI et son PDG, Sam Altman, accusant ChatGPT d’« encourager sa fille à mettre fin à ses jours ». Certains des griefs clés mentionnés dans ces poursuites concernent la conception de ChatGPT, qui « privilégie l’engagement des utilisateurs plutôt que leur sécurité ».

Face à la pression des procureurs, OpenAI a répondu : « L’IA est une technologie nouvelle et puissante. Nous travaillons chaque jour pour en exploiter les bénéfices de manière responsable et sécurisée. Nous prenons très au sérieux les préoccupations soulevées par les procureurs généraux. » La société a également souligné qu’elle « dialoguera de manière constructive avec les autorités ».

De l’enquête pénale en Floride, aux assignations conjointes dans plusieurs États, jusqu’aux multiples poursuites fatales, OpenAI se trouve sous le microscope à la fois judiciaire et réglementaire. Pour une entreprise qui prévoit une introduction en bourse l’année prochaine, ces investigations pourraient avoir des conséquences graves.

Questions fréquentes

Pourquoi les procureurs généraux de plusieurs États américains enquêtent-ils sur OpenAI ?

Le 12 juin, les procureurs généraux de plusieurs États américains ont conjointement émis une assignation à OpenAI pour examiner la publicité, la fidélisation des utilisateurs, les données des consommateurs et de santé, ainsi que l’impact sur les mineurs et les personnes âgées, afin de déterminer si la conception de ChatGPT met en danger la sécurité des utilisateurs.

Quelles sont les poursuites actuellement en cours contre OpenAI ?

OpenAI fait face à une plainte et à une enquête pénale du procureur général de Floride, James Uthmeier, ainsi qu’à plusieurs actions en justice pour décès non accidentels, accusant ChatGPT d’inciter à des délires nuisibles et même au suicide. Certaines plaintes dénoncent une conception qui privilégie la fidélisation au détriment de la sécurité.