Кейс丨Генерация с помощью ИИ не является основанием для освобождения от ответственности! Опубликованный пользователь, не выполнив обязательство по проверке, несет ответственность за нарушение чьей-либо репутации

В настоящее время технологии ИИ быстро развиваются, глубоко внедряясь в такие традиционные сферы, как развлечения и индустрия, финансы, реклама и маркетинг, при этом старые и новые сценарии переплетаются и сливаются; вследствие этого количество гражданских споров, вызванных этим, также неуклонно растёт. В последнее время Пекинский интернет-суд рассмотрел дело о нарушении права на репутацию, возникшее из-за использования генерирующего ИИ для публикации контента.

Суть дела

Истец — организация, занимающаяся стриминговым бизнесом; после трагической смерти одного из её стримеров это привлекло внимание общественности. Ответчик через свой аккаунт в социальной платформе опубликовал видео с заголовком «Смерть некоего стримера#养生# здоровье#养生就是养健康# предпринимательство#блок питания/пищевые добавки», в котором утверждалось, что этот стример «всё время держался, опираясь на лекарства и выпивку, страдая бессонницей и тревогой», «ежедневно вёл стрим по 15 часов, заучивая реплики поздно ночью», «имел при себе антидепрессивные лекарства, выдавая их за леденцы для горла», «врач требовал отдыхать и лечиться, но команда подгоняла его к стриму» и т.п. Истец считает, что вышеуказанный контент вымышляет факты и порочит репутацию организации, и обратился в суд с иском, прося обязать ответчика прекратить нарушение, публично принести извинения и компенсировать экономический ущерб и разумные расходы на защиту прав в общей сумме 30000 юаней.

В ходе рассмотрения дела ответчик уже удалил оспариваемое видео и заявил, что текст сценария видео не является его оригинальной работой, а был сгенерирован с помощью ИИ; в подтверждение он представил запись экрана генерации контента. Запись экрана показывает, что ответчик дал ИИ команду «Некоего стримера умер, составить сценарий-озвучку о болезни и смерти, продвигать внимание к здоровью». После того как ИИ сгенерировал черновик, ответчик потребовал дополнить содержание с учётом сетевых репортажей; ИИ, выполнив поиск по нескольким платформам, на основе нескольких статей, после чего изменил сценарий. Затем ответчик напрямую использовал этот сценарий для записи и публикации оспариваемого видео. Поэтому ответчик утверждал, что его содержание имеет сетевую информационную основу и не представляет собой нарушения права на репутацию.

Суд, рассмотрев дело, считает

В данном деле упомянутый в оспариваемом видео «некто/некий стример» является стримером, подписанным истцом. Следовательно, можно заключить, что под «командой» в выражениях, содержащихся в видео, подразумевается истец по настоящему делу. Что касается того, имеются ли у соответствующих заявлений ответчика фактические основания, ответчик утверждал, что оспариваемое содержание сгенерировано ИИ, а этот генерируемый контент опирается на множество опубликованных репортажей. Суд считает, что ответчик как пользователь услуг генерирующего искусственного интеллекта при изготовлении и публикации видео с использованием сгенерированного ИИ контента обязан по закону выполнить необходимые действия по проверке соответствующей информации. В настоящем деле при публикации оспариваемого видео ответчик не указал источник информации и не провёл проверку подлинности и достоверности источника, а также не представил надлежащих доказательств того, что высказывания «ежедневно вёл стрим 15 часов, а в большую часть ночи всё ещё заучивал реплики», «врач велел ему отдыхать и лечиться, но команда всё равно торопила стрим» являются объективно правдивыми. После публикации оспариваемого видео в комментариях под ним несколько пользователей дали истцу негативные оценки, объективно причинив вред в виде снижения его общественной оценки. В совокупности действия ответчика по публикации оспариваемого видео уже составляют нарушение права истца на репутацию и, согласно закону, влечёт соответствующую деликтную ответственность.

Результат судебного решения

Суд постановил, что ответчик должен принести извинения истцу, опубликовав заявление об извинениях через свой аккаунт в социальной платформе, и компенсировать определённый экономический ущерб.

В настоящее время данное решение вступило в законную силу.

Позиция судьи

В настоящее время генерирующий искусственный интеллект быстро распространяется и глубоко интегрируется в повседневную жизнь, став важным инструментом для того, чтобы общественность получала информацию, помогала себе в познании, занималась творчеством и принимала решения. При этом генерируемый ИИ контент имеет ограничения: результаты его вывода склонны к фактическим отклонениям, логическим ошибкам и даже к «галлюцинациям» контента. Если использовать или распространять такой контент без проверки, то он чрезвычайно легко вводит общественность в заблуждение и даже может привести пользователей к ошибочным суждениям и ошибочным решениям, а затем — к разного рода спорам и рискам. Поэтому в процессе использования, распространения и публикации генерируемого ИИ контента необходимо ясно осознавать, что искусственный интеллект не является абсолютно надёжным, и что он не может заменить ручную проверку и фактчекинг. Пользователи контента, его издатели и соответствующие операционные субъекты несут неотчуждаемую субъектную ответственность и предусмотренные законом обязанности по проверке; нельзя ссылаться на «контент сгенерирован ИИ» как на основание для освобождения от ответственности, чтобы уклониться от обязанности тщательно проверять подлинность, законность и соответствие нормам информации. Независимо от того, представлен ли контент в виде текста, изображений, аудио/видео или иных типов, перед публикацией, перепечаткой или использованием его следует проверять: подтвердить истинность/подлинность фактов, законность источника, и обеспечить, чтобы контент не нарушал права на репутацию, права на неприкосновенность частной жизни, авторские права и другие законные права и интересы других лиц.

Биография судьи

Судья  У Цзяо

У Цзяо — судья Второй коллегии по комплексным делам Пекинского интернет-суда; ею написано множество кейсов, которые получили награды за лучшие анализы дел в национальной системе судов и были включены в ежегодные судебные кейсы Китая; также она опубликовала множество статей в таких изданиях, как «Газета народных судов» и др.