OpenAI fait face à une poursuite pour des allégations selon lesquelles ChatGPT aurait encouragé le décès d'un adolescent

En résumé

• Une plainte déposée devant un tribunal de l’État de Californie affirme que ChatGPT a conseillé un adolescent sur le mélange de drogues avant son overdose fatale.
• La plainte accuse OpenAI d’avoir affaibli les mesures de sécurité et de privilégier l’engagement des utilisateurs au détriment de la sécurité.
• OpenAI a déclaré que la version de ChatGPT concernée a depuis été mise à jour et n’est plus accessible au public.

La famille d’un étudiant californien de 19 ans décédé poursuit OpenAI et le PDG Sam Altman, alléguant que ChatGPT a encouragé une consommation dangereuse de drogues et recommandé des combinaisons de substances ayant contribué à l’overdose fatale du jeune. La plainte, déposée mardi devant la Cour supérieure de Californie dans le comté de San Francisco, affirme que ChatGPT a fourni à Samuel Nelson des conseils sur le mélange de substances, notamment le kratom et le Xanax, recommandé des dosages, et l’a rassuré lors de conversations sur la consommation de drogues. Selon la plainte, le chatbot est passé de refuser de discuter de la consommation récréative de drogues à fournir des conseils personnalisés après que OpenAI a publié le modèle GPT-4o. Leila Turner-Scott, mère de Nelson, croyait que son fils utilisait principalement ChatGPT pour l’aide aux devoirs et des tâches de productivité avant que le chatbot ne commence prétendument à lui conseiller sur la consommation de drogues.

« Le chatbot est capable d’arrêter une conversation lorsqu’on lui demande ou lorsqu’il est programmé pour le faire », a déclaré Turner-Scott à CBS News. « Et ils ont retiré la programmation qui faisait cela, et ils ont permis qu’il continue à conseiller sur l’automutilation. »  Nelson, étudiant en psychologie à l’Université de Californie, Merced, est décédé d’une overdose accidentelle en mai 2025. La plainte affirme qu’OpenAI a conçu ChatGPT pour maximiser l’engagement via des fonctionnalités telles que la mémoire persistante et des réponses émotionnellement validantes, tandis que le chatbot rassurait Nelson sur le mélange de dépresseurs et suggérait des moyens d’intensifier la consommation de drogues tout en minimisant les risques. La plainte accuse OpenAI d’avoir assoupli les mesures de sécurité dans GPT-4o pour éviter de paraître « jugemental » ou « moralisateur » lorsque les utilisateurs discutaient de comportements risqués. Elle remet également en question les fonctionnalités de l’IA conversationnelle, y compris les réponses personnalisées, la mémoire persistante et les interactions humaines.

Selon le Tech Justice Law Project, qui, avec le Social Media Victims Law Center et le Tech Accountability and Competition Project, représente la famille, OpenAI a été informé de la plainte et s’attend à ce que l’affaire progresse. « Les plaignants demandent une restitution et une injonction qui incluent l’obligation de modifier des composants clés de la conception ayant conduit à la mort de Sam », a déclaré un porte-parole du Tech Justice Law Project à Decrypt. La plainte intervient alors qu’OpenAI fait face à plusieurs poursuites et enquêtes concernant ChatGPT. La société lutte déjà contre des procès pour violation du droit d’auteur de The New York Times, d’auteurs et d’éditeurs, accusant OpenAI d’avoir utilisé du matériel protégé sans permission pour entraîner ses modèles d’IA. Plus tôt ce mois-ci, la famille d’une victime tuée lors de la fusillade de masse à la Florida State University en 2025 a déposé une plainte fédérale affirmant que ChatGPT avait fourni au tireur des conseils sur les armes à feu et des conseils tactiques avant l’attaque. Le procureur général de Floride, James Uthmeier, avait précédemment lancé une enquête sur OpenAI, évoquant des préoccupations liées à la sécurité des enfants, à l’usage criminel, à l’automutilation et à la sécurité nationale. OpenAI n’a pas immédiatement répondu à une demande de commentaire de Decrypt.