現在、AI技術が急速に発展し、娯楽、金融、広告マーケティングなど複数の従来分野に深く浸透しており、旧い場面と新しい場面が交錯し融合することで、それに起因する民事紛争も日々増加しています。近日、北京インターネット裁判所は、生成AIを用いてコンテンツを公開したことにより名誉権侵害が問題となった案件を審理しました。**基本事案**原告は配信（ライブ配信）事業に従事する機関であり、その傘下のある配信者が不幸にも亡くなったことが公衆の注目を集めるに至りました。被告は、自身のソーシャルプラットフォームのアカウントにおいて、「ある配信者の死#养生#健康#养生就是养健康#起業#栄養品」というタイトルの動画を投稿し、その内容として、当該配信者が「ずっと薬を飲んで酒を飲んで根性でしのび、寝つけず、不安を抱えていた」「毎日15時間配信し、深夜にも台本を暗記していた」「うつ病の薬を身につけておき、のど飴だと偽っていた」「医師が休んで治療するよう求めたのに、チームが配信を急かした」などと述べました。原告は、上記内容が虚偽の事実であり、機関の評判を貶めるものだとして、裁判所に訴えを提起し、被告に対し、侵害行為の停止、謝罪の公開、ならびに経済的損失および権利擁護にかかる合理的支出の合計30000元の賠償を求めました。案件の審理の過程で、被告は当該動画をすでに削除しており、動画の文案は本人のオリジナルではなく、AIによって生成されたものであると主張しました。そのため、コンテンツ生成の録画（スクリーン録画）を提出してこれを裏付けるとしました。録画では、被告がAIに対して「ある配信者が亡くなり、病気で亡くなった読み上げ文案を書き、健康への関心を呼びかける」という指示を出したことが示されています。AIが初稿を生成した後、被告がネット上の報道内容を補充するよう求め、AIが複数のプラットフォームにまたがる多数の記事を検索して文案を修正した後、被告がその文案をそのまま用いて録音・撮影し、当該動画を作成して公開したことが明らかになりました。被告はこれに基づき、自身のコンテンツにはネット情報の根拠があるため、名誉権侵害を構成しないと主張しました。**裁判所の判断**本件において、被告が投稿した問題となっている動画は、「ある配信者」に言及しており、当該「ある配信者」は原告の傘下の契約配信者であることが認められるため、動画中の「ある配信者」の「チーム」は本件原告を指していると推認できます。被告の関連発言が事実の根拠を備えるかどうかについて、被告は、問題となる内容はAIによって生成され、当該AI生成内容は複数の公開報道を参照したものだと主張しました。これに対し裁判所は、被告は生成型人工知能サービスの利用者として、AIにより生成されたコンテンツを用いて動画を制作し投稿する際、関連情報について必要な確認を行う義務を法律上負うと判断しました。本件では、被告が当該動画を公開した時点で情報源を明示しておらず、また情報源の真実性や信頼性についての確認も行っていません。さらに、「毎日15時間配信し、夜更けにも台本を暗記していた」「医師が彼に休んで治療するよう求めたのに、チームが配信を急かしていた」などの表現が客観的に事実であることを立証する有効な証拠を提出できていませんでした。問題となる動画が投稿された後、すでに複数のネットユーザーがコメント欄で原告に対して否定的な評価を行っており、客観的に原告の社会的評価が低下するという損害結果をもたらしました。以上を踏まえると、被告が問題となる動画を投稿した行為は原告の名誉権の侵害を構成し、法律上相応の侵害責任を負うべきです。**判決結果**判決は、被告が自身のソーシャルプラットフォームのアカウントを通じて謝罪声明を投稿し、原告に対して謝罪し、一定の経済的損失を賠償することを命じました。現在、本件の判決は確定しています。**裁判官の見解**現在、生成型人工知能技術は急速に普及し、日常生活に深く組み込まれており、公衆が情報を入手し、認知を補助し、創作を行い、意思決定を行うための重要なツールとなっています。その一方で、AIが生成したコンテンツには限界があり、その出力結果は事実の食い違い、論理上の誤り、さらには内容の「ハルシネーション（幻覚）」が生じやすいのです。識別せずにそのまま使用したり拡散したりすれば、容易に公衆を誤導し、さらには利用者が誤った判断や誤った意思決定に陥り、ひいては各種の紛争やリスクにつながるおそれがあります。したがって、AIが生成したコンテンツの使用、拡散、公開を行う過程においては、人工知能は絶対的に信頼できるものではなく、人間による審査や事実確認に取って代わることはできないということを、常に冷静に認識しなければなりません。コンテンツの利用者、投稿者、および関連する運営主体は、免れがたい主体責任と法定の確認義務を負い、「コンテンツはAIが生成したものだ」ということを免責の口実として、情報の真実性、合法性、コンプライアンスに関する慎重な審査・確認責任を回避してはなりません。コンテンツの形式が文字、画像、音声・映像、またはその他の種類であれ、公開、転載、使用の前には必ず確認を行い、事実の真偽や出所の合法性を検証し、当該コンテンツが他人の名誉権、プライバシー権、著作権およびその他の合法的権益を侵害しないことを確保する必要があります。**裁判官紹介**裁判官 呉嬌呉嬌は、北京インターネット裁判所の総合審理第二法廷の裁判官であり、執筆した複数の事例が全国の裁判所システムにおける優秀事例分析で受賞し、中国の裁判所における年度事例として選ばれています。また、《人民法院報》などの媒体に複数の論文を掲載しています。
事例丨AI生成は免責事由ではない！発信者が確認義務を怠り他人の名誉権を侵害した場合は責任を負う
現在、AI技術が急速に発展し、娯楽、金融、広告マーケティングなど複数の従来分野に深く浸透しており、旧い場面と新しい場面が交錯し融合することで、それに起因する民事紛争も日々増加しています。近日、北京インターネット裁判所は、生成AIを用いてコンテンツを公開したことにより名誉権侵害が問題となった案件を審理しました。
基本事案
原告は配信（ライブ配信）事業に従事する機関であり、その傘下のある配信者が不幸にも亡くなったことが公衆の注目を集めるに至りました。被告は、自身のソーシャルプラットフォームのアカウントにおいて、「ある配信者の死#养生#健康#养生就是养健康#起業#栄養品」というタイトルの動画を投稿し、その内容として、当該配信者が「ずっと薬を飲んで酒を飲んで根性でしのび、寝つけず、不安を抱えていた」「毎日15時間配信し、深夜にも台本を暗記していた」「うつ病の薬を身につけておき、のど飴だと偽っていた」「医師が休んで治療するよう求めたのに、チームが配信を急かした」などと述べました。原告は、上記内容が虚偽の事実であり、機関の評判を貶めるものだとして、裁判所に訴えを提起し、被告に対し、侵害行為の停止、謝罪の公開、ならびに経済的損失および権利擁護にかかる合理的支出の合計30000元の賠償を求めました。
案件の審理の過程で、被告は当該動画をすでに削除しており、動画の文案は本人のオリジナルではなく、AIによって生成されたものであると主張しました。そのため、コンテンツ生成の録画（スクリーン録画）を提出してこれを裏付けるとしました。録画では、被告がAIに対して「ある配信者が亡くなり、病気で亡くなった読み上げ文案を書き、健康への関心を呼びかける」という指示を出したことが示されています。AIが初稿を生成した後、被告がネット上の報道内容を補充するよう求め、AIが複数のプラットフォームにまたがる多数の記事を検索して文案を修正した後、被告がその文案をそのまま用いて録音・撮影し、当該動画を作成して公開したことが明らかになりました。被告はこれに基づき、自身のコンテンツにはネット情報の根拠があるため、名誉権侵害を構成しないと主張しました。
裁判所の判断
本件において、被告が投稿した問題となっている動画は、「ある配信者」に言及しており、当該「ある配信者」は原告の傘下の契約配信者であることが認められるため、動画中の「ある配信者」の「チーム」は本件原告を指していると推認できます。被告の関連発言が事実の根拠を備えるかどうかについて、被告は、問題となる内容はAIによって生成され、当該AI生成内容は複数の公開報道を参照したものだと主張しました。これに対し裁判所は、被告は生成型人工知能サービスの利用者として、AIにより生成されたコンテンツを用いて動画を制作し投稿する際、関連情報について必要な確認を行う義務を法律上負うと判断しました。本件では、被告が当該動画を公開した時点で情報源を明示しておらず、また情報源の真実性や信頼性についての確認も行っていません。さらに、「毎日15時間配信し、夜更けにも台本を暗記していた」「医師が彼に休んで治療するよう求めたのに、チームが配信を急かしていた」などの表現が客観的に事実であることを立証する有効な証拠を提出できていませんでした。問題となる動画が投稿された後、すでに複数のネットユーザーがコメント欄で原告に対して否定的な評価を行っており、客観的に原告の社会的評価が低下するという損害結果をもたらしました。以上を踏まえると、被告が問題となる動画を投稿した行為は原告の名誉権の侵害を構成し、法律上相応の侵害責任を負うべきです。
判決結果
判決は、被告が自身のソーシャルプラットフォームのアカウントを通じて謝罪声明を投稿し、原告に対して謝罪し、一定の経済的損失を賠償することを命じました。
現在、本件の判決は確定しています。
裁判官の見解
現在、生成型人工知能技術は急速に普及し、日常生活に深く組み込まれており、公衆が情報を入手し、認知を補助し、創作を行い、意思決定を行うための重要なツールとなっています。その一方で、AIが生成したコンテンツには限界があり、その出力結果は事実の食い違い、論理上の誤り、さらには内容の「ハルシネーション（幻覚）」が生じやすいのです。識別せずにそのまま使用したり拡散したりすれば、容易に公衆を誤導し、さらには利用者が誤った判断や誤った意思決定に陥り、ひいては各種の紛争やリスクにつながるおそれがあります。したがって、AIが生成したコンテンツの使用、拡散、公開を行う過程においては、人工知能は絶対的に信頼できるものではなく、人間による審査や事実確認に取って代わることはできないということを、常に冷静に認識しなければなりません。コンテンツの利用者、投稿者、および関連する運営主体は、免れがたい主体責任と法定の確認義務を負い、「コンテンツはAIが生成したものだ」ということを免責の口実として、情報の真実性、合法性、コンプライアンスに関する慎重な審査・確認責任を回避してはなりません。コンテンツの形式が文字、画像、音声・映像、またはその他の種類であれ、公開、転載、使用の前には必ず確認を行い、事実の真偽や出所の合法性を検証し、当該コンテンツが他人の名誉権、プライバシー権、著作権およびその他の合法的権益を侵害しないことを確保する必要があります。
裁判官紹介
裁判官 呉嬌
呉嬌は、北京インターネット裁判所の総合審理第二法廷の裁判官であり、執筆した複数の事例が全国の裁判所システムにおける優秀事例分析で受賞し、中国の裁判所における年度事例として選ばれています。また、《人民法院報》などの媒体に複数の論文を掲載しています。