399 euros « IA pour ressusciter » un proche, quels risques juridiques cachés ?

399元“AI ressusciter” un proche, quels risques juridiques cachés ?

Les experts rappellent que si un commerçant exagère l’effet de vidéos brutes et standardisées en les présentant comme une “compagne permanente” ou dissimule les risques de fuite de données, cela pourrait constituer une fraude.

Avec la popularisation de la technologie d’intelligence artificielle générative, la mode du “rappel numérique” pour rendre hommage a envahi le web, mais cela comporte des risques de violation du droit à l’image, de sécurité des données, de fraude à la consommation, et d’autres lignes rouges juridiques et éthiques.

À la veille du festival Qingming, un journaliste du « Quotidien des Travailleurs » a découvert que, du vidéo de deuil AI créé par des internautes par nostalgie, aux services personnalisés affichés à prix fixe sur les plateformes de commerce électronique, le “rappel numérique” passe progressivement d’un simple soutien émotionnel à une commercialisation. Mais dans ce développement rapide, des problèmes de violation de la loi, de fraude commerciale, de fuite de données, etc., apparaissent fréquemment, portant atteinte aux droits de la personnalité des défunts et aux droits légitimes des consommateurs, tout en dissimulant des risques de fraude via les réseaux de télécommunications.

Les droits de la personnalité des défunts protégés par la loi

Récemment, Zhang Xuefeng, un célèbre blogueur éducatif, est décédé. Certains internautes, par nostalgie, ont utilisé ses images de ses lives pour créer des vidéos de deuil AI diffusées en ligne, tandis que d’autres ont usurpé son portrait pour de fausses promotions. Le 24 mars, la société de Zhang, Suzhou Feng Yue Wan Juan Culture Books Co., Ltd., a publié un avis pour retirer tous les “certificats d’autorisation d’utilisation du portrait” qu’elle avait précédemment délivrés, demandant à ses partenaires de retirer dans les 24 heures tout matériel promotionnel ou vidéo court utilisant le portrait, la vidéo, le nom ou l’image de Zhang Xuefeng.

En réalité, la controverse autour de la “ressuscitation numérique” de figures publiques décédées n’est pas nouvelle. En octobre 2025, un célèbre expert en théologie du thé décédé a été “ressuscité” par une entreprise de thé utilisant la technologie AI pour créer une vidéo de promotion commerciale. Bien que cette entreprise ait affirmé avoir obtenu l’autorisation de son fils pour promouvoir la culture du thé, la veuve du défunt a clairement exprimé son opposition, estimant que cette vidéo utilisait l’image de son mari à des fins commerciales, ce qui constitue une “dénaturation” et une “insulte”.

Auparavant, certains stars décédées ont également été victimes de situations similaires. Des internautes, sans l’accord des familles, ont utilisé leurs performances scéniques, interviews ou images privées, via la technologie AI, pour “ressusciter” ces figures et créer des vidéos, qui ont été largement diffusées sur des plateformes de vidéos courtes, provoquant une forte opposition des familles. Certaines familles ont publiquement déclaré que ces vidéos AI non autorisées sont un manque de respect envers les défunts, et ont exigé le retrait immédiat de tout contenu concerné.

Le professeur Shi Jiayou de la Faculté de droit de l’Université populaire de Chine a souligné que les droits de la personnalité des défunts sont protégés par la loi, et que cela ne concerne pas uniquement le commerce. La création et la diffusion publiques de vidéos de ressuscitation AI sans l’accord des proches peuvent également constituer une violation du droit à l’image et à la réputation du défunt.

Des commerçants ciblent la “marketing par la nostalgie” chez les personnes âgées

Mme Li Huarong, sous pseudonyme, a utilisé un service d’un commerçant en ligne pour créer une vidéo de “ressuscitation numérique” de l’icône décédée depuis plusieurs années, Leslie Cheung. “C’était par nostalgie, je voulais l’entendre me parler.” Elle a contacté un commerçant, qui proposait un service personnalisé à 49 yuans pour faire “parler une photo”. Il lui a simplement demandé une photo reconnaissable de ses traits et un extrait audio de 15 secondes, pour faire “parler” la personne sur la photo avec 50 mots. Tout au long de la transaction, le commerçant n’a pas mentionné de risques juridiques ni expliqué comment les données seraient traitées par la suite.

Les journalistes ont constaté que sur plusieurs plateformes, des produits sous les noms “ressuscitation AI”, “faire parler une photo”, “personne numérique AI” sont proposés à des prix allant de 10 yuans à plusieurs milliers. Cependant, la qualité des produits varie considérablement, et certains commerçants exploitent la nostalgie pour commercialiser des produits émotionnels sincères, avec des risques de manipulation ou de fraude.

Mme Li Huarong a aussi essayé d’acheter un autre service à 399 yuans pour “ressusciter” sa mère. Le commerçant promettait que “sa mère pourrait parler comme si elle était devant moi, interagir et faire des vidéos avec moi”. Mais au final, la vidéo obtenue ne différait pas beaucoup de celle qu’elle avait achetée pour 49 yuans : “C’est juste que la personne dans la photo parle un peu plus longtemps, passant de 15 secondes à une minute, mais ça ne ressemble en rien à ma mère, j’ai trouvé que ça ne valait pas cet argent.”

Certains commerçants ciblent aussi les personnes âgées avec une capacité de discernement limitée, utilisant des technologies d’IA de base pour en tirer profit à moindre coût.

Le professeur Shi Jiayou indique que ces “marketing par la nostalgie” auprès des personnes âgées peuvent constituer une fraude à la consommation dans certains cas. Si un commerçant exagère l’effet de “compagne permanente” d’une vidéo brutes, dissimule les risques de fuite de données, ou fournit un service de consolation émotionnelle défectueux, cela peut constituer une fraude. Il recommande aux autorités de régulation de mettre en place un système d’enregistrement des algorithmes et des sources de données pour les commerçants proposant des “services émotionnels numériques”, de mener des inspections ciblées dans les communautés pour personnes âgées ou les services funéraires, et de lutter contre les “discours manipulateurs” et les “clauses abusives”.

Renforcement de la régulation des “ressuscitations AI” artisanales

Au-delà des controverses de violation, les données biologiques (photos, voix, etc.) téléchargées par les utilisateurs pour “ressusciter” leurs proches présentent un risque élevé de fuite ou d’abus. Si des commerçants enfreignent la loi en achetant ou vendant ces données, celles-ci peuvent facilement entrer dans des réseaux illicites, et être utilisées par des malfaiteurs pour des escroqueries par IA, comme le changement de visage ou de voix. Selon plusieurs rapports et cas exemplaires, des escrocs ont obtenu illégalement des données biologiques de défunts (voix, photos), pour inventer des dettes ou des “messages de rêve” pour soutirer de l’argent, ou ont utilisé des images virtuelles pour tromper la confiance des personnes âgées et commettre des fraudes, causant des pertes émotionnelles et financières.

Mme Li Huarong se remémore avec effroi le processus d’utilisation du service de “ressuscitation” : “Les commerçants ne m’ont pas dit s’ils allaient supprimer ces photos et audios, je ne sais pas ce qu’ils en feront après.”

Le professeur Shi Jiayou insiste sur le fait que les données personnelles sensibles, telles que les photos ou enregistrements du défunt, une fois mal utilisées, peuvent avoir des conséquences graves. Selon la loi sur la protection des informations personnelles, les plateformes doivent obtenir le consentement des proches pour traiter ces données, qui ont le droit de les consulter, copier, rectifier ou supprimer. Les plateformes doivent prendre des mesures de cryptage ou d’anonymisation pour éviter la fuite, et après la fin du service “ressuscitation AI”, elles doivent supprimer rapidement ces données, sans les conserver pour entraîner d’autres modèles. Bien que le “Règlement sur la gestion de la synthèse profonde de l’information en ligne” impose des contraintes strictes aux grandes plateformes, il manque encore des mécanismes efficaces pour réguler les développeurs individuels ou petits ateliers proposant des services artisanaux de “ressuscitation AI” sur les plateformes de commerce.

Pour une gouvernance systémique du “rappel numérique”, le professeur Shi recommande de construire un système de gouvernance multiple intégrant “limites légales + normes techniques + auto-régulation sectorielle + examen éthique”. Sur le plan civil, il est possible pour les citoyens d’établir un testament numérique pour organiser à l’avance leur “personnalité numérique” après leur décès, avec force contraignante. Sur le plan public, il faut que tout modèle d’“AI ressuscitée” soit soumis à une évaluation de sécurité avant utilisation, et que tout contenu généré par IA soit clairement marqué “contenu généré par intelligence artificielle”. Sur le plan sectoriel, il faut élaborer une charte éthique pour le secteur du “rappel numérique”, en fixant comme limite la “non-commercialisation et non-diffusion publique”, et utiliser la traçabilité numérique pour assurer la traçabilité des vidéos en cas de violation.

Source : Quotidien des Travailleurs