Cas d'étude | La génération par IA ne constitue pas une cause d'exonération de responsabilité ! L'éditeur, n'ayant pas rempli son devoir de vérification, doit être tenu responsable de la violation du droit à la réputation d'autrui

Actuellement, la technologie de l’IA se développe rapidement et s’intègre en profondeur dans de nombreux domaines traditionnels comme les industries du divertissement et de la finance, ainsi que le marketing publicitaire. Les anciens et les nouveaux contextes s’entremêlent et se fusionnent, ce qui entraîne également une augmentation progressive des litiges civils. Récemment, le Tribunal populaire d’Internet de Pékin a jugé une affaire d’atteinte au droit à la réputation, découlant de l’utilisation d’une IA générative pour publier du contenu.

Présentation des faits de base

Le demandeur exerce une activité de diffusion en direct. Après le décès malheureux d’un certain présentateur de sa chaîne, l’attention du public a été suscitée. Le défendeur, via le compte de son réseau social, a publié une vidéo intitulée « Le décès d’un certain présentateur#养生# Santé#养生就是养健康# Entrepreneuriat # Produits nutritionnels », dont le contenu indique que le présentateur « a toujours tenu en s’appuyant sur des médicaments et de l’alcool », « a des troubles du sommeil et de l’anxiété », « fait 15 heures de live par jour, récite son texte tard dans la nuit », « emporte avec lui des médicaments contre la dépression en prétendant qu’il s’agit de bonbons pour la gorge », « le médecin lui demande de se reposer pour se soigner, mais l’équipe le pousse à continuer les lives », etc. Le demandeur estime que le contenu ci-dessus invente des faits, dénigre la réputation de l’organisme, et a saisi le tribunal. Il demande au tribunal d’ordonner au défendeur de cesser l’atteinte, de présenter publiquement ses excuses et de s’excuser, ainsi que de l’indemniser pour sa perte économique et ses dépenses raisonnables liées à la défense, pour un total de 30000 yuans.

Durant l’instruction de l’affaire, le défendeur a déjà supprimé la vidéo en cause et a soutenu que le texte de la vidéo n’était pas une création originale de sa part, mais avait été généré par une IA. À l’appui, il a fourni un enregistrement d’écran de génération de contenu. L’enregistrement montre que le défendeur a donné à l’IA la consigne : « Le décès d’un certain présentateur, rédiger un texte de narration sur un décès lié à une maladie, en encourageant l’attention portée à la santé ». Après que l’IA a produit un premier brouillon, le défendeur lui a demandé d’ajouter le contenu de reportages sur le réseau. L’IA a consulté plusieurs articles publiés sur plusieurs plateformes, puis a modifié le texte. Le défendeur a ensuite directement utilisé ce texte pour enregistrer et publier la vidéo litigieuse. Le défendeur a donc fait valoir que son contenu reposait sur des informations disponibles sur Internet et ne constituait pas une atteinte au droit à la réputation.

Le tribunal estime après examen

Dans la présente affaire, « un certain présentateur » mentionné dans la vidéo poursuivie est un présentateur sous contrat du demandeur. On peut en déduire que « l’équipe » évoquée dans la vidéo visant « un certain présentateur » renvoie au demandeur de la présente affaire. S’agissant de savoir si les déclarations du défendeur disposent d’une base factuelle, le défendeur soutient que le contenu en cause a été généré par IA et que ce contenu généré par l’IA s’est référé à plusieurs reportages publics. À cet égard, le tribunal considère que, en tant qu’utilisateur d’un service d’IA générative, le défendeur a, lors de la fabrication et de la publication de vidéos à l’aide du contenu généré par IA, l’obligation, en vertu de la loi, de procéder à une vérification nécessaire des informations concernées. Dans la présente affaire, au moment de publier la vidéo en cause, le défendeur n’a ni indiqué la source de l’information, ni vérifié l’authenticité et la crédibilité de la source, et il n’a pas non plus été en mesure de produire des preuves effectives établissant que des formulations telles que « chaque jour 15 heures de live, et encore à réciter son texte à la mi-nuit », « le médecin lui dit de se reposer pour se soigner, mais l’équipe le pousse à continuer en direct », etc. sont objectivement vraies. Après la publication de la vidéo en cause, plusieurs internautes ont formulé des évaluations négatives à l’encontre du demandeur dans la section commentaires, ce qui, objectivement, a entraîné des dommages consistant à faire baisser l’évaluation sociale du demandeur. En conclusion, le fait du défendeur de publier la vidéo en cause constitue une atteinte au droit à la réputation du demandeur, et il doit donc assumer la responsabilité correspondante en matière de délit.

Résultat du jugement

Le tribunal a condamné le défendeur à présenter ses excuses au demandeur par une déclaration d’excuses publiée via le compte de son réseau social, à s’excuser auprès du demandeur, et à indemniser une certaine perte économique.

À l’heure actuelle, le jugement de cette affaire est entré en force.

Paroles du juge

À l’heure actuelle, la technologie de l’IA générative s’est rapidement diffusée et s’est profondément intégrée dans la vie quotidienne, devenant un outil important pour le public afin d’obtenir des informations, d’assister la cognition, de mener des créations et de prendre des décisions. Dans le même temps, le contenu généré par l’IA présente des limites : les résultats produits peuvent facilement comporter des écarts factuels, des erreurs logiques, voire des « hallucinations » de contenu. Si on les utilise ou les propage sans vérification, on risque fortement d’induire le public en erreur, voire d’entraîner l’utilisateur à porter des jugements erronés et à prendre des décisions erronées, ce qui peut ensuite déclencher divers litiges et risques. Par conséquent, au cours de l’utilisation, de la diffusion et de la publication de contenu généré par IA, il faut reconnaître clairement que l’intelligence artificielle n’est pas absolument fiable et qu’elle ne peut pas remplacer la supervision humaine et la vérification des faits. Les utilisateurs du contenu, les diffuseurs et les entités opérationnelles concernées portent tous une responsabilité de sujet et des obligations légales de vérification qu’ils ne peuvent éluder ; ils ne peuvent pas se soustraire à la responsabilité d’une vérification prudente de l’authenticité, de la validité et de la conformité des informations en invoquant « le contenu a été généré par une IA ». Quelle que soit la forme du contenu, qu’il s’agisse de texte, d’image, d’audio-vidéo ou d’autres types, avant publication, republication ou utilisation, il convient de vérifier le contenu : vérifier la véracité ou la fausseté des faits, la légalité des sources, et s’assurer que le contenu ne porte pas atteinte au droit à la réputation, au droit à la vie privée, au droit d’auteur et à d’autres droits et intérêts légitimes d’autrui.

Présentation du juge

Juge  Wu Jiao

Wu Jiao, juge à la deuxième division de la juridiction de jugement intégral du Tribunal d’Internet de Pékin. Plusieurs des études de cas qu’elle a rédigées ont remporté des prix dans le cadre d’analyses de cas exceptionnels au sein du système des tribunaux à l’échelle nationale, et ont été sélectionnées comme « cas annuels des tribunaux chinois ». Elle a publié de nombreux articles dans des publications telles que « China People’s Court News ».