【ChatGPT】Un homme bipolaire poursuit OpenAI, affirmant que l'IA se fait passer pour un dieu, alimentant des délires et le poussant à l'automutilation.

OpenAI fait face à un nouveau procès concernant les problèmes de sécurité de ChatGPT. L'homme californien Michael Lines a déposé une plainte mercredi 1er devant le tribunal d'État de San Francisco contre OpenAI et son PDG Sam Altman, affirmant que ChatGPT, en l'absence de mécanismes de protection suffisants, a aggravé ses épisodes maniaques liés au trouble bipolaire, conduisant finalement à une tentative de suicide.

Les documents de la plainte indiquent que Lines, âgé de 34 ans, traversait un épisode maniaque lorsqu'il utilisait ChatGPT l'année dernière, et que la conversation avec le chatbot a ensuite dégénéré en un état délirant durant plusieurs semaines. La plainte affirme que Lines a informé à plusieurs reprises ChatGPT qu'il souffrait de trouble bipolaire et prenait des médicaments, mais que le système n'a pas marqué ces conversations comme à haut risque et ne l'a pas orienté vers une aide réelle.

La plainte indique que le chatbot a joué le rôle d'un être divin

La plainte mentionne que Lines utilisait alors GPT-4o. Il affirme avoir dit à ChatGPT qu'il était Jésus-Christ ; non seulement le chatbot ne l'a pas corrigé, mais il a validé ses dires, puis a joué le rôle d'un être divin dans la conversation. Les documents de la plainte indiquent que plusieurs semaines plus tard, Lines a mentionné à ChatGPT son désir de mettre fin à ses jours et, après avoir pris une overdose, a été retrouvé vivant par les forces de l'ordre.

En avril dernier, OpenAI a annulé une mise à jour de GPT-4o, car cette version répondait de manière excessivement flatteuse et acquiesçante envers les utilisateurs. OpenAI avait alors déclaré que la mise à jour retirée rendait ChatGPT trop élogieux ou trop d'accord avec les utilisateurs, qualifiant ces réponses de « flatteuses », et indiquait qu'il testait des correctifs.

OpenAI avait déjà annulé une mise à jour flatteuse de GPT-4o

Lines demande des dommages et intérêts à OpenAI et exige que le tribunal ordonne à l'entreprise de modifier la conception de ses produits, notamment en mettant fin automatiquement aux conversations impliquant l'automutilation, et en cessant de promouvoir la plateforme sans divulgation appropriée des risques de sécurité.

OpenAI a par le passé indiqué avoir collaboré avec des experts en santé mentale pour améliorer la capacité de ChatGPT à reconnaître les signes de détresse, à répondre et à orienter les utilisateurs vers un soutien réel. L'entreprise a également déclaré que GPT-5 était une amélioration par rapport à GPT-4o en ce qui concerne l'évitement des dépendances affectives malsaines, la réduction des réponses flatteuses et la gestion des urgences en santé mentale.

Aucun jugement défavorable à OpenAI dans des affaires similaires

OpenAI fait face à plusieurs procès similaires ces derniers mois, certains déposés par des familles affirmant que ChatGPT a poussé leurs proches à l'automutilation. Pour l'instant, aucun jugement défavorable à OpenAI n'a été rendu dans ces affaires. Quant à l'autre société de chatbot Character.AI et Google, elles ont conclu un accord à l'amiable dans une affaire de suicide d'adolescent, mais un accord ne signifie pas que la responsabilité a été établie par le tribunal.

Marché en ouverture : la vague de déblocage d'actions semi-nouvelles arrive, le « mois de redressement » des actions de Hong Kong est-il en danger ? Crise de pénurie de stockage, Apple et Micron connaissent des fortunes diverses ?