【ChatGPT】Un homme bipolaire poursuit OpenAI, affirmant que l'IA se fait passer pour une divinité et alimente ses délires, le poussant à se faire du mal.

OpenAI fait face à un nouveau procès concernant des problèmes de sécurité avec ChatGPT. Un homme de Californie, Michael Lines, a déposé une plainte mercredi (1er) devant le tribunal d'État de San Francisco contre OpenAI et son PDG Sam Altman, alléguant que ChatGPT, en l'absence de mécanismes de protection suffisants, a aggravé ses épisodes maniaques de trouble bipolaire, conduisant finalement à une tentative de suicide.

Selon le document de la plainte, Lines, 34 ans, était en train de vivre un épisode maniaque lorsqu'il utilisait ChatGPT l'année dernière, et la conversation avec le chatbot a ensuite évolué en un état délirant qui a duré plusieurs semaines. Le procès affirme que Lines a dit à plusieurs reprises à ChatGPT qu'il souffrait de trouble bipolaire et qu'il prenait des médicaments, mais le système n'a pas marqué ces conversations comme à haut risque et ne l'a pas orienté vers une aide réelle.

La plainte indique que le chatbot a joué le rôle d'une entité divine

Le procès mentionne que Lines utilisait GPT-4o à ce moment-là. Il affirme avoir dit à ChatGPT qu'il était Jésus-Christ, et le chatbot non seulement ne l'a pas corrigé, mais a validé ses déclarations, et a ensuite joué le rôle d'une entité divine dans la conversation. Selon le document de la plainte, plusieurs semaines plus tard, Lines a mentionné à ChatGPT son désir de mettre fin à sa vie, et après avoir pris une overdose, il a été découvert par les forces de l'ordre et a survécu.

En avril de l'année dernière, OpenAI a annulé une mise à jour de GPT-4o, car cette version répondait de manière excessivement flatteuse et complaisante envers les utilisateurs. OpenAI a alors déclaré que la mise à jour retirée rendait ChatGPT trop élogieux ou en accord avec les utilisateurs, qualifiant cela de réponses « flatteuses », et a indiqué qu'il testait des correctifs.

##OpenAI a annulé la mise à jour flatteuse de GPT-4o

Lines demande à OpenAI des dommages-intérêts et exige que le tribunal ordonne à l'entreprise de modifier la conception de ses produits, notamment en mettant fin automatiquement aux conversations impliquant l'automutilation et en cessant de promouvoir la plateforme sans divulguer correctement les risques de sécurité.

OpenAI a précédemment déclaré avoir collaboré avec des experts en santé mentale pour améliorer la capacité de ChatGPT à identifier les signes de détresse, à répondre et à orienter les utilisateurs vers un soutien réel. L'entreprise a également indiqué que GPT-5 est amélioré par rapport à GPT-4o pour éviter la dépendance émotionnelle malsaine, réduire les réponses flatteuses et gérer les urgences de santé mentale.

Aucune décision de défaite pour OpenAI dans des affaires similaires

Ces derniers mois, OpenAI a fait face à plusieurs procès similaires, certains intentés par des membres de la famille affirmant que ChatGPT avait poussé leurs proches à l'automutilation. Pour l'instant, aucune décision de justice n'a été rendue contre OpenAI dans ces affaires. Quant à une autre société de chatbot, Character.AI, et Google, ils ont récemment conclu un accord à l'amiable dans le cadre d'un procès lié au suicide d'un adolescent, mais un accord à l'amiable ne signifie pas que la responsabilité a été établie par le tribunal.

Suivi des cotations en bourse : la vague de levée des restrictions sur les actions récemment introduites arrive, le « mois de reprise » de Hong Kong est-il en danger ? Crise de pénurie de stockage : Apple et Micron en « deux extrêmes » ?