399元“AI復活”親人、隠された法律リスクは何か？
専門家は、商家が粗雑なテンプレート動画を「永久的な伴奏」効果に誇張したり、データ漏洩リスクを隠したりすれば、詐欺に該当すると警告している。
生成型人工知能技術の普及に伴い、「デジタル復活」の追悼方法がネットで話題となる一方、その裏には肖像権侵害、データセキュリティリスク、消費者詐欺など複数の法律・倫理的問題が潜んでいる。
清明節前夜、《工人日報》記者の調査によると、ネットユーザーが懐かしさから制作したAI追悼動画や、ECプラットフォームで明示されたカスタマイズサービスなど、「デジタル復活」は純粋な感情の寄託から徐々に商業化へと進展している。しかし、急速な発展の過程で、法律侵害、商業詐欺、データ漏洩などの問題が頻発し、故人の人格権や消費者の合法的権益を侵害するだけでなく、電信ネットワーク詐欺の潜在的リスクも隠されている。
故人の人格権は法律によって保護されている
最近、著名な教育ブロガーの張雪峰さんが亡くなったことに対し、ネット上では懐かしさから彼の生前のライブ映像を使ったAI追悼動画が拡散されているほか、悪意のある者が彼の肖像を盗用して虚偽の宣伝を行うケースもある。3月24日、張雪峰氏の所属会社である蘇州峰閱万巻文化図書有限公司は公告を出し、これまでに発行したすべての《肖像使用許諾書》を取り消し、協力者に対して24時間以内に張雪峰の肖像、動画クリップ、名前および関連イメージを用いた宣伝物や短編動画を全面的に削除するよう求めた。
実際、「デジタル復活」による故人の復活は既に議論の的となっている。2025年10月、ある有名な茶学者がAI技術を用いて「復活」され、商業広告動画に起用された例もある。企業側は子供の茶文化推進のための許可を得たと主張しているが、遺族はこれに反対し、故人のイメージを商業的に利用することは「美化」や「侮辱」にあたると明言している。
また、過去には故人のスターも同様の被害に遭っている。家族の同意なしに、舞台パフォーマンスやインタビュー映像、私的映像などをAI技術で「復活」させ、関連動画を短編動画プラットフォームで広く拡散し、家族から強い反発を受けた例もある。遺族は公に、「この種のAI動画は無許可であり、故人への敬意を欠いている」とし、関連プラットフォームに対して直ちにすべての該当コンテンツの削除を求めている。
中国人民大学法学院の石佳友教授は、故人の人格権は法律によって保護されており、商用だけが侵害の条件ではないと指摘する。近親者の同意なしに、追悼目的であってもAI復活動画を制作・公開すれば、故人の肖像権や名誉権を侵害する可能性がある。
高齢者をターゲットにした「思念マーケティング」
李華容さん（仮名）は、電商の商家を通じて故人のアイドル、張国榮さんの「デジタル復活」動画を作成した。「当時はただ懐かしくて、彼と話したいと思ったからです。」と語る。彼女は49元の「写真で話す」カスタマイズサービスを提供する店を見つけ、顔の判別ができる写真1枚と15秒の参考音声を提出しただけで、写真の人物が50語を話す「口を開く」動画を作成できるとされた。取引の過程で、商家は法律リスクやデータの後処理について一切説明しなかった。
記者が調査したところ、「AI復活」「写真に話させる」「AIデジタル人」などの名目で、価格は10元から数千元までさまざまであるが、商品効果はまちまちで、真剣な思念の感情を商品化し、消費を誘導したり詐欺的な行為を行う商家も存在する。
李華容さんは、以前に別の店で399元のサービスを購入し、自分の母親を「復活」させる試みもした。商家は「母親が私の前にいるかのように、交流やビデオもできる」と宣伝したが、最終的に得た動画は、49元のものとほとんど変わらず、「ただ口を動かす時間が長くなっただけで、1分に伸びただけ。母親に似ていないし、金を無駄にしたと感じた」と語る。
また、低所得の高齢者層を狙い、最も安価な生成型AI技術を用いて利益を得ようとする商家もある。
石佳友教授は、「高齢者を対象とした『思念マーケティング』は、特定の状況下で消費者詐欺に該当し得る」と指摘する。商家が粗雑なテンプレート動画を「永久的な伴奏」効果に誇張したり、データ漏洩のリスクを隠したり、感情的慰めのサービスに重大な瑕疵があった場合、誤った認識に基づいて購入させると詐欺となる。彼は、市場監督当局に対し、「デジタル感情サービス」を提供する商家に対してアルゴリズム倫理とデータ出所の登録制度を設け、老人が多く集まる地域（老人ホームや葬儀サービス周辺など）での監査を強化し、「話術誘導」や「霸王条款」などの行為を取り締まるよう提言している。
小規模な「AI復活」事業の規制強化の必要性
侵害問題以外に、親族の「復活」のためにアップロードされた写真や音声などの生体情報は、漏洩や悪用のリスクが非常に高い。商家が違法にこれらのデータを売買すれば、闇市場に流出し、不法者によるAI顔換えや声の変換を用いた詐欺に悪用される可能性もある。各地の反詐欺部門の通報や典型事例によると、不法者は故人の音声や写真を不正に入手し、「借金の返済」「夢枕での伝言」などの口実を作り、虚偽のイメージを使って老人の信頼を得て詐欺を働き、遺族が情緒的・財産的に二重の打撃を受けるケースも多い。
李華容さんは、当時の「復活」サービスの利用過程を振り返り、「怖くなった」と語る。「商家も、これらの写真や音声を削除するかどうか教えてくれなかったし、最終的にどう処理されるのか分からない」と述べている。
石佳友教授は、故人の写真や録音などの個人情報は敏感な個人情報を含み、悪用されれば深刻な結果を招くと警告する。個人情報保護法によれば、プラットフォームは故人の個人情報を取り扱う前に、故人の近親者の同意を得る必要があり、近親者は閲覧、複製、訂正、削除などの権利を行使できる。プラットフォームは暗号化や匿名化などの措置を講じてデータ漏洩を防ぎ、「AI復活」サービス終了後は速やかに削除義務を履行し、ユーザーデータを訓練用に保存し続けることを禁じるべきだ。現行の《インターネット情報サービス深度合成管理規定》は大規模プラットフォームに対して厳しい規制を課しているが、個人開発者や小規模事業者による「AI復活」サービスには効果的な監督や追跡手段が不足している。
「デジタル復活」サービスのシステム的管理について、石佳友教授は、「法的底線＋技術基準＋業界自律＋倫理審査」の多層的なガバナンス体系の構築を提案している。民法レベルでは、市民がデジタル遺言を通じて、死後の「デジタル人格」に関する法的拘束力のある事前の取り決めを行えるようにすべきだ。公法レベルでは、「AI復活」モデルの投入前に安全評価を義務付け、すべてのAI生成コンテンツには「本内容は人工知能によって生成されました」の明示を求める。業界レベルでは、「デジタル復活」業界の倫理規範を策定し、「非商業化・非公開伝播」を底線とし、デジタル追跡技術を用いて侵害動画の追跡可能性を確保すべきだ。
出典：工人日報
大量の情報、正確な解読は、新浪财经アプリで
127.25K 人気度
48.26K 人気度
29.86K 人気度
780.6K 人気度
754.17K 人気度
399元“AI復活”親人，隠された法律リスクは何か？
399元“AI復活”親人、隠された法律リスクは何か？
専門家は、商家が粗雑なテンプレート動画を「永久的な伴奏」効果に誇張したり、データ漏洩リスクを隠したりすれば、詐欺に該当すると警告している。
生成型人工知能技術の普及に伴い、「デジタル復活」の追悼方法がネットで話題となる一方、その裏には肖像権侵害、データセキュリティリスク、消費者詐欺など複数の法律・倫理的問題が潜んでいる。
清明節前夜、《工人日報》記者の調査によると、ネットユーザーが懐かしさから制作したAI追悼動画や、ECプラットフォームで明示されたカスタマイズサービスなど、「デジタル復活」は純粋な感情の寄託から徐々に商業化へと進展している。しかし、急速な発展の過程で、法律侵害、商業詐欺、データ漏洩などの問題が頻発し、故人の人格権や消費者の合法的権益を侵害するだけでなく、電信ネットワーク詐欺の潜在的リスクも隠されている。
故人の人格権は法律によって保護されている
最近、著名な教育ブロガーの張雪峰さんが亡くなったことに対し、ネット上では懐かしさから彼の生前のライブ映像を使ったAI追悼動画が拡散されているほか、悪意のある者が彼の肖像を盗用して虚偽の宣伝を行うケースもある。3月24日、張雪峰氏の所属会社である蘇州峰閱万巻文化図書有限公司は公告を出し、これまでに発行したすべての《肖像使用許諾書》を取り消し、協力者に対して24時間以内に張雪峰の肖像、動画クリップ、名前および関連イメージを用いた宣伝物や短編動画を全面的に削除するよう求めた。
実際、「デジタル復活」による故人の復活は既に議論の的となっている。2025年10月、ある有名な茶学者がAI技術を用いて「復活」され、商業広告動画に起用された例もある。企業側は子供の茶文化推進のための許可を得たと主張しているが、遺族はこれに反対し、故人のイメージを商業的に利用することは「美化」や「侮辱」にあたると明言している。
また、過去には故人のスターも同様の被害に遭っている。家族の同意なしに、舞台パフォーマンスやインタビュー映像、私的映像などをAI技術で「復活」させ、関連動画を短編動画プラットフォームで広く拡散し、家族から強い反発を受けた例もある。遺族は公に、「この種のAI動画は無許可であり、故人への敬意を欠いている」とし、関連プラットフォームに対して直ちにすべての該当コンテンツの削除を求めている。
中国人民大学法学院の石佳友教授は、故人の人格権は法律によって保護されており、商用だけが侵害の条件ではないと指摘する。近親者の同意なしに、追悼目的であってもAI復活動画を制作・公開すれば、故人の肖像権や名誉権を侵害する可能性がある。
高齢者をターゲットにした「思念マーケティング」
李華容さん（仮名）は、電商の商家を通じて故人のアイドル、張国榮さんの「デジタル復活」動画を作成した。「当時はただ懐かしくて、彼と話したいと思ったからです。」と語る。彼女は49元の「写真で話す」カスタマイズサービスを提供する店を見つけ、顔の判別ができる写真1枚と15秒の参考音声を提出しただけで、写真の人物が50語を話す「口を開く」動画を作成できるとされた。取引の過程で、商家は法律リスクやデータの後処理について一切説明しなかった。
記者が調査したところ、「AI復活」「写真に話させる」「AIデジタル人」などの名目で、価格は10元から数千元までさまざまであるが、商品効果はまちまちで、真剣な思念の感情を商品化し、消費を誘導したり詐欺的な行為を行う商家も存在する。
李華容さんは、以前に別の店で399元のサービスを購入し、自分の母親を「復活」させる試みもした。商家は「母親が私の前にいるかのように、交流やビデオもできる」と宣伝したが、最終的に得た動画は、49元のものとほとんど変わらず、「ただ口を動かす時間が長くなっただけで、1分に伸びただけ。母親に似ていないし、金を無駄にしたと感じた」と語る。
また、低所得の高齢者層を狙い、最も安価な生成型AI技術を用いて利益を得ようとする商家もある。
石佳友教授は、「高齢者を対象とした『思念マーケティング』は、特定の状況下で消費者詐欺に該当し得る」と指摘する。商家が粗雑なテンプレート動画を「永久的な伴奏」効果に誇張したり、データ漏洩のリスクを隠したり、感情的慰めのサービスに重大な瑕疵があった場合、誤った認識に基づいて購入させると詐欺となる。彼は、市場監督当局に対し、「デジタル感情サービス」を提供する商家に対してアルゴリズム倫理とデータ出所の登録制度を設け、老人が多く集まる地域（老人ホームや葬儀サービス周辺など）での監査を強化し、「話術誘導」や「霸王条款」などの行為を取り締まるよう提言している。
小規模な「AI復活」事業の規制強化の必要性
侵害問題以外に、親族の「復活」のためにアップロードされた写真や音声などの生体情報は、漏洩や悪用のリスクが非常に高い。商家が違法にこれらのデータを売買すれば、闇市場に流出し、不法者によるAI顔換えや声の変換を用いた詐欺に悪用される可能性もある。各地の反詐欺部門の通報や典型事例によると、不法者は故人の音声や写真を不正に入手し、「借金の返済」「夢枕での伝言」などの口実を作り、虚偽のイメージを使って老人の信頼を得て詐欺を働き、遺族が情緒的・財産的に二重の打撃を受けるケースも多い。
李華容さんは、当時の「復活」サービスの利用過程を振り返り、「怖くなった」と語る。「商家も、これらの写真や音声を削除するかどうか教えてくれなかったし、最終的にどう処理されるのか分からない」と述べている。
石佳友教授は、故人の写真や録音などの個人情報は敏感な個人情報を含み、悪用されれば深刻な結果を招くと警告する。個人情報保護法によれば、プラットフォームは故人の個人情報を取り扱う前に、故人の近親者の同意を得る必要があり、近親者は閲覧、複製、訂正、削除などの権利を行使できる。プラットフォームは暗号化や匿名化などの措置を講じてデータ漏洩を防ぎ、「AI復活」サービス終了後は速やかに削除義務を履行し、ユーザーデータを訓練用に保存し続けることを禁じるべきだ。現行の《インターネット情報サービス深度合成管理規定》は大規模プラットフォームに対して厳しい規制を課しているが、個人開発者や小規模事業者による「AI復活」サービスには効果的な監督や追跡手段が不足している。
「デジタル復活」サービスのシステム的管理について、石佳友教授は、「法的底線＋技術基準＋業界自律＋倫理審査」の多層的なガバナンス体系の構築を提案している。民法レベルでは、市民がデジタル遺言を通じて、死後の「デジタル人格」に関する法的拘束力のある事前の取り決めを行えるようにすべきだ。公法レベルでは、「AI復活」モデルの投入前に安全評価を義務付け、すべてのAI生成コンテンツには「本内容は人工知能によって生成されました」の明示を求める。業界レベルでは、「デジタル復活」業界の倫理規範を策定し、「非商業化・非公開伝播」を底線とし、デジタル追跡技術を用いて侵害動画の追跡可能性を確保すべきだ。
出典：工人日報
大量の情報、正確な解読は、新浪财经アプリで