399 юаней «AI-воскрешение» близких: какие юридические риски скрыты?

Подсказка по прочтению

С распространением технологий генеративного ИИ способ «цифрового воскрешения» вошёл в моду в интернете как способ оплакивания; за этим скрывается сразу несколько юридических и этических «красных линий», включая нарушения прав на изображение, риски безопасности данных и мошенничество при совершении покупок.

Накануне Дня поминовения усопших, репортёры газеты «Жэньминь жибао» в ходе расследования выяснили: от AI-траурных видео, которые пользователи изготавливают из соображений ностальгии, до услуг, выставленных в маркетплейсах с чётко указанной ценой — «цифровое воскрешение» постепенно переходит от простой эмоциональной поддержки к коммерциализации. Но в процессе быстрого развития часто возникают такие проблемы, как юридические нарушения, коммерческое мошенничество и утечки данных; это не только ущемляет личные права покойных и законные права потребителей, но и скрывает угрозы телекоммуникационного сетевого мошенничества.

Личные права покойных охраняются законом

Недавно, скончался известный блогер в сфере образования Чжан Сюэфэн; некоторые пользователи, движимые памятью, распространяли в сети AI-траурные видео, созданные на основе его трансляционных материалов при жизни, а также нашлись злоумышленники, которые воспользовались его портретом для фальшивой рекламы. 24 марта компания «Сучжоу Фэнъюэ Ваньцзюань» (Suzhou Fengyue Wanjuan Culture and Books Co., Ltd.), подконтрольная Чжан Сюэфэну, опубликовала объявление: отозвать все ранее выданные разным сторонам «разрешения на использование изображения» и обязать партнёров в течение 24 часов полностью снять со всех площадок любые рекламные материалы и короткие видеоролики, где используются портреты Чжан Сюэфэна, видеофрагменты, имя и связанные с ним образа.

На самом деле, прецеденты споров, вызванных «цифровым воскрешением» у уже ушедших публичных фигур, существовали и раньше. В октябре 2025 года одна из уже умерших известных исследовательниц чайной культуры была «воскрешена» одной чайной компанией с помощью технологий ИИ и представлена в виде коммерческого ролика-поручения. Хотя компания заявляла, что получила разрешение от её сына на продвижение чайной культуры, вдова покойной заявила о несогласии и прямо указала, что видео использует образ её супруга для коммерческого продвижения, по сути являясь «очернением» и «оскорблением».

Ранее с подобной ситуацией сталкивались и некоторые покойные знаменитости: пользователи без согласия семьи использовали материалы со сцен выступлений, фрагменты интервью, личные видео и другие материалы времён их жизни, «воскрешали» их с помощью ИИ и создавали соответствующие видео; затем эти материалы широко распространялись на платформах коротких видео, вызывая резкое неприятие со стороны родственников. Один из родственников покойного публично высказался и чётко заявил: такие AI-видео без разрешения — это проявление неуважения к покойному; он потребовал немедленно убрать с соответствующих платформ весь связанный контент.

Профессор юридического факультета Китайского народного университета Ши Цзяю (Shi Jiayou) указал, что личные права покойного защищаются законом и нарушение может возникать не только в случае коммерческого использования. Без согласия ближайших родственников, даже если видео создаётся и публично распространяется в целях оплакивания, это всё равно может образовывать посягательство на права на изображение и право на репутацию покойного.

Коммерсанты нацеливаются на пожилых людей с «маркетингом сожаления»

Госпожа Ли Хуа Жун (псевдоним) однажды заказала у интернет-магазина создание ролика «цифрового воскрешения» её многолетнего ушедшего кумира Чжан Гоцжуна. «Всё было из-за тоски: хотелось услышать, как он разговаривает со мной». Она нашла компанию-продавца; та предложила персонализированную услугу «фото говорит» с фиксированной ценой 49 юаней. Продавец попросил лишь предоставить 1 фотографию с различимыми чертами лица и отрезок в 15 секунд эталонного аудио — и тогда человек на фото «заговорит», произнеся 50 слов. Во время всей сделки продавец не упоминал никаких юридических рисков и не сообщал, как впоследствии будут обрабатываться данные.

Журналисты обратили внимание: на нескольких онлайн-платформах товары-сервисы с названиями «AI-воскрешение», «пусть фото говорит», «AI-цифровой человек» имеют цены от 10 юаней до нескольких тысяч юаней. Однако качество результата неодинаково: часть продавцов использует эмоциональный настрой, основанный на тоске, для маркетинга, превращая искренние чувства в коммерческий продукт; встречаются ситуации, когда покупателям пытаются навязать покупку, а также имеет место мошенничество.

Ли Хуа Жун говорит: она ранее также пробовала купить в другом магазине услугу за 399 юаней — «воскресить» свою мать. Тогда продавец утверждал, что «можно сделать так, чтобы моя мать была как будто рядом со мной, и чтобы она могла взаимодействовать, и чтобы она могла общаться со мной в видео»; однако в итоге полученное видео почти не отличалось от того, что она приобрела за 49 юаней ранее: «То есть у человека на фото подольше двигаются губы, с 15 секунд до 1 минуты, но это совершенно не похоже на мою мать; ощущение, что эти деньги потрачены совсем не стояще».

Есть и другие продавцы, которые ориентируются на пожилых людей со слабой способностью различать, применяют самые базовые технологии генеративного ИИ и извлекают прибыль с низкими затратами.

Профессор Ши Цзяю подчеркнул: в отношении поведения «маркетинга сожаления» на пожилых людей в определённых обстоятельствах может иметь место потребительское мошенничество. Если продавец грубый шаблонный ролик с преувеличением выдает за технологический эффект «вечного сопровождения», скрывает технологические риски утечки данных или же предоставляемая услуга эмоционального утешения имеет серьёзные недостатки, и в результате пожилые люди покупают услугу, опираясь на неверное понимание, это образует мошенничество. Он рекомендует органам рыночного надзора создать для продавцов «цифровых эмоциональных услуг» систему учёта этики алгоритмов и источников данных, проводить специальные проверки в местах скопления пожилых людей — например, в домах престарелых, вокруг организаций, оказывающих ритуальные услуги, — и сосредоточиться на пресечении таких практик, как «скрипты, подталкивающие к покупке» и «кабальные условия».

Нужен усиленный надзор за «AI-воскрешением» в формате подпольных мастерских

Помимо споров о нарушении прав, когда пользователи «воскрешают» близких и загружают фотографии, аудио и другие биометрические данные, также существует крайне высокий риск утечки и злоупотреблений. Если продавцы нарушают правила и торгуют этими данными, такие чувствительные сведения легко могут попасть в цепочки «серой» и «чёрной» индустрии. Тогда злоумышленники могут использовать их для мошенничества — в том числе подменяя лица, меняя голос и т.п. Согласно сообщениям из отделов по борьбе с мошенничеством и типовым кейсам в разных регионах, есть преступники, которые путём незаконного получения биометрической информации покойного — такой как голосовые записи и фотографии — придумывают поводы вроде долгов покойного «оставленных при жизни» или «денежных переводов во сне», либо, обманув пожилых, завоевывая их доверие с помощью виртуальных образов, совершают мошенничество; в результате некоторые семьи, потерявшие близких, получают двойной удар — и в плане эмоций, и в плане имущества.

Госпожа Ли Хуа Жун сегодня снова вспоминает процесс использования услуги «воскрешения» и говорит: «Меня теперь снова пугает: продавец тоже не сказал мне, удалят ли они эти фотографии и аудиофайлы; я не знаю, как в итоге будут обрабатываться соответствующие данные».

Профессор Ши Цзяю подчеркнул: загруженные пользователями данные покойного при жизни — такие как фото и записи — содержат чувствительную личную информацию; если ими злоупотреблять, последствия будут крайне серьёзными. В соответствии с законом о защите персональной информации, до обработки персональной информации умершего платформа должна получить согласие ближайших родственников умершего; ближайшие родственники имеют право осуществлять проверку, копирование, исправление, удаление и т.д. соответствующей информации. Платформа обязана принять меры вроде шифрования и анонимизации, чтобы предотвратить утечки данных; после завершения услуги «AI-воскрешения» следует своевременно исполнить обязанность по удалению и не хранить данные пользователей самовольно для обучения других моделей. Существующие «Правила об управлении глубокой синтетикой в сфере интернет-информационных услуг» сильнее ограничивают крупные платформы, но для многочисленных на платформах электронной коммерции частных разработчиков и «AI-воскрешения» в формате подпольных мастерских всё ещё не хватает действенных инструментов регулирования и механизмов прослеживаемости.

Для системного управления услугами «цифрового воскрешения» профессор Ши Цзяю предлагает выстроить многовекторную систему управления по принципу «правовые нижние границы + технические стандарты + саморегулирование отрасли + этическая экспертиза». На уровне частного права допускается, чтобы граждане с помощью цифрового завещания заранее могли распорядиться после своей смерти «цифровой личностью» так, чтобы такие распоряжения обладали юридически обязательной силой. На уровне публичного права требуется, чтобы модели, предоставляющие услуги «AI-воскрешения», перед вводом в эксплуатацию проходили оценку безопасности, а все сгенерированные ИИ материалы должны быть обозначены на видном месте надписью «Этот контент создан с помощью искусственного интеллекта». На уровне отрасли следует разработать этический отраслевой кодекс для индустрии «цифрового воскрешения», закрепив «не коммерциализировать, не распространять публично» как базовую красную линию, и применять цифровые технологии прослеживаемости, чтобы обеспечивать возможность отслеживания контрафактных видео.