Premier cas aux États-Unis ! La Floride poursuit officiellement OpenAI, Altman, avec une plainte de 83 pages accusant ChatGPT d'avoir incité à la violence

Le procureur général de Floride, James Uthmeier, a officiellement intenté une action en justice lundi (1/6) contre OpenAI et son PDG Sam Altman, accusant la société d’avoir ignoré systématiquement les risques de sécurité dans sa course à la « compétition militaire de l’IA » et de la recherche de profits énormes. Il s’agit du premier procès civil lancé par un État américain concernant la sécurité des chatbots IA.

(Précédent : La Floride enquête sur OpenAI : un tireur demande à ChatGPT comment désactiver une assurance avant de tirer, impliqué dans plusieurs incidents violents, morts et cas d’addiction chez les mineurs)

(Complément d’information : ChatGPT accusé d’avoir aidé à « suicider des jeunes », OpenAI a répondu)

Table des matières

Basculer

• 83 pages de la plainte avec quatre accusations majeures
• Procureur de Floride : c’est une négligence systémique d’OpenAI en matière de sécurité
• La vague de procès pour sécurité : du suicide au meurtre

Le procureur général de Floride, James Uthmeier, a annoncé lundi (1/6) avoir intenté une action en justice contre OpenAI et son PDG Sam Altman, l’accusant de négliger systématiquement les avertissements de sécurité dans sa quête de « compétition militaire de l’IA » et de profits massifs. Il s’agit du premier procès civil mené par un État américain sur la question de la sécurité des chatbots IA.

Ce long document de 83 pages indique qu’OpenAI et Altman « ont ignoré les avertissements de sécurité internes et externes, mettant en danger des enfants, et permettant à un produit dangereux d’atteindre des millions de résidents de Floride ». La Floride avait déjà lancé une enquête criminelle en avril dernier, cette action civile étant une extension.

83 pages de la plainte avec quatre accusations majeures

Selon le procès publié par le bureau du procureur de Floride, les accusations portent sur quatre aspects :

• Assistance à la fusillade de masse : L’année dernière, le tireur de l’université d’État de Floride (FSU) aurait consulté ChatGPT avant de commettre son acte, demandant comment désactiver la sécurité de son arme à feu. La famille du tireur a déposé une plainte civile séparée.
• Incitation au suicide : ChatGPT aurait été accusé d’avoir fourni des « spécifications techniques » pour le suicide lors de conversations avec des utilisateurs vulnérables, tout en les orientant vers des ressources en santé mentale.
• Addiction chez les mineurs : OpenAI est accusé de manquer de mécanismes efficaces de vérification de l’âge et de contrôle parental, ce qui aurait conduit des mineurs à devenir dépendants de ChatGPT.
• Honte publique et déclin cognitif : Certains utilisateurs ont subi une humiliation publique suite à des informations erronées fournies par ChatGPT, d’autres ont rapporté une baisse de leurs capacités cognitives.

Le procureur de Floride : c’est une négligence systémique d’OpenAI en matière de sécurité

Uthmeier a souligné lors d’une conférence de presse que ce n’est pas une erreur isolée de produit, mais un problème systémique au niveau de la gouvernance d’OpenAI. « OpenAI et Altman, pour accélérer la mise sur le marché et conquérir des parts de marché, ont choisi de passer outre à maintes reprises les préoccupations de sécurité soulevées par l’équipe de recherche interne et des experts externes. »

OpenAI a précédemment nié toute responsabilité dans l’incident de FSU, un porte-parole déclarant à NBC News : « La fusillade de FSU est une tragédie, mais ChatGPT n’est pas la cause de ce crime horrible. » La société a également évoqué l’affaire du suicide du jeune Adam Raine, affirmant que l’utilisateur « avait contourné les mécanismes de sécurité ». Des médias comme TechCrunch ont sollicité une réponse d’OpenAI concernant ce procès, sans réponse à la date de clôture de cet article.

La vague de procès pour sécurité : du suicide au meurtre

Ce n’est pas la première fois que ChatGPT est poursuivi en justice pour des questions de sécurité. En novembre dernier, le jeune Adam Raine, de Californie, s’est suicidé après avoir discuté de suicide avec ChatGPT, et ses parents ont poursuivi OpenAI pour négligence. Par la suite, sept familles ont joint leurs voix pour accuser OpenAI de jouer un rôle dans ces suicides. En avril, un autre cas de harcèlement a été porté contre OpenAI, un stalker affirmant que ChatGPT avait alimenté ses délires.

De plus, le mois dernier, OpenAI a récemment mis fin à un procès avec le cofondateur Elon Musk, le jury ayant rapidement statué que Musk avait perdu en raison de la prescription. Avec cette nouvelle plainte en Floride, la controverse sur la sécurité d’OpenAI s’intensifiera encore dans le système judiciaire américain.