Caso丨¡La generación por IA no es una causa de exención de responsabilidad! El publicador que no cumplió con su obligación de verificación y causó daño al honor de otra persona debe ser responsable

En la actualidad, la tecnología de IA se está desarrollando rápidamente y se está integrando profundamente en múltiples ámbitos tradicionales como el entretenimiento, las finanzas y el marketing publicitario. Los escenarios nuevos y los antiguos se entrelazan y se fusionan, lo que ha dado lugar a un aumento progresivo de las disputas civiles. Recientemente, el Tribunal de Internet de Pekín conoció un caso de infracción del derecho al honor personal derivado del uso de una IA generativa para publicar contenido.

Resumen de los hechos básicos

El demandante es una institución que se dedica a los negocios de transmisión en vivo. Tras el fallecimiento desafortunado de una de sus presentadoras, atrajo la atención del público. El demandado, mediante su cuenta en una plataforma social, publicó un video con el título “Fallecimiento de una presentadora#养生# Salud#养生就是养健康# Emprendimiento#Productos de nutrición”, en el que se afirma que la presentadora “siempre había resistido tomando medicamentos y bebiendo alcohol, con insomnio y ansiedad”, “hacía transmisiones diarias de 15 horas, y repasaba guiones hasta altas horas de la noche”, “llevaba consigo medicamentos contra la depresión y fingía que eran caramelos para la garganta”, “el médico le pidió que descansara para tratarse, pero el equipo lo presionó para que transmitiera en vivo”, etc. El demandante considera que el contenido anterior inventa hechos y menoscaba la reputación de la institución, por lo que presenta una demanda ante el tribunal y solicita que se ordene al demandado cesar la infracción, pedir disculpas públicamente y compensar tanto las pérdidas económicas como los gastos razonables de salvaguarda de derechos, por un total de 30000 yuanes.

Durante el proceso de tramitación del caso, el demandado ya había eliminado el video en cuestión y argumentó que el texto del video no era una creación original de su parte, sino que fue generado mediante IA. Para ello, presentó una grabación de pantalla de generación de contenido como prueba. La grabación muestra que el demandado dio a la IA la instrucción: “La presentadora falleció; redactar un guion narrado sobre haber enfermado y fallecido; promover la atención a la salud”. Después de que la IA generó un primer borrador, el demandado pidió que se complementara el contenido con información de reportajes de la red; tras que la IA buscó en varias plataformas varios artículos, el demandado modificó el texto. El demandado utilizó directamente dicho texto para grabar y publicar el video relevante. Por lo tanto, el demandado sostiene que su contenido tiene base en información disponible en la red y que no constituye una infracción del derecho al honor personal.

El tribunal consideró

En este caso, la “presentadora” a la que se refiere el video acusado es una presentadora con contrato del demandante; con base en ello, se puede determinar que el “equipo” mencionado en el video se refiere al demandante en este caso. En cuanto a si los comentarios del demandado cuentan con base fáctica, el demandado alega que el contenido del caso se generó mediante IA y que dicha generación de IA se basó en múltiples reportajes públicos. Al respecto, el tribunal considera que, como usuario de un servicio de inteligencia artificial generativa, el demandado, al utilizar la IA para generar contenido y producir y publicar videos, tiene, por ley, la obligación de realizar una verificación necesaria de la información correspondiente. En este caso, al publicar el video, el demandado ni indicó la fuente de la información ni verificó la autenticidad y credibilidad de dicha fuente, y tampoco pudo presentar pruebas efectivas que demuestren que afirmaciones como “transmitía en vivo 15 horas todos los días, y aun a medianoche repasaba guiones” y “el médico le dijo que descansara para tratarse, pero el equipo lo apuraba para que transmitiera en vivo” son objetivamente verdaderas. Tras la publicación del video, varios internautas en la sección de comentarios hicieron evaluaciones negativas sobre el demandante, lo que, objetivamente, causó el resultado dañoso de una disminución de la valoración social del demandante. En conclusión, la conducta del demandado al publicar el video en cuestión constituye una infracción del derecho al honor del demandante, y por ley debe asumir la correspondiente responsabilidad por agravio.

Resultado del fallo

El fallo ordenó al demandado que, mediante su cuenta en una plataforma social, publicara una declaración de disculpas para pedir perdón al demandante, y que compensara una cierta cantidad de pérdidas económicas.

Actualmente, la sentencia de este caso ya ha entrado en vigor.

Declaración del juez

En la actualidad, la tecnología de inteligencia artificial generativa se ha popularizado rápidamente y se ha integrado profundamente en la vida cotidiana, convirtiéndose en una herramienta importante para que el público obtenga información, asista al entendimiento, realice creaciones y tome decisiones. Al mismo tiempo, el contenido generado por IA tiene limitaciones: los resultados que produce pueden presentar sesgos de hechos, falacias lógicas e incluso “alucinaciones” de contenido. Si no se examina y se usa o difunde directamente, es muy fácil inducir a error al público e incluso hacer que los usuarios caigan en juicios y decisiones incorrectos, lo que a su vez puede dar lugar a todo tipo de disputas y riesgos. Por ello, durante el uso, la difusión y la publicación de contenido generado por IA, es necesario tener una conciencia clara de que la inteligencia artificial no es absolutamente confiable y que no puede sustituir la revisión humana ni la verificación de hechos. Los usuarios y publicadores de contenido, así como los sujetos operativos pertinentes, tienen responsabilidades subjetivas que no se pueden eludir y obligaciones legales de verificación. No se debe usar la excusa de “el contenido fue generado por IA” para evadir la responsabilidad de una revisión prudente de la veracidad de la información, su legalidad y su cumplimiento. Independientemente de si el formato del contenido es texto, imagen, audio/video u otro tipo, antes de publicarlo, republicarlo o usarlo, debe verificarse: comprobar la autenticidad de los hechos y la legalidad de las fuentes, y asegurarse de que el contenido no vulnere el derecho al honor, el derecho a la privacidad, el derecho de autor ni otros derechos e intereses legítimos de terceros.

Perfil del juez

Juez Wu Jiao

Wu Jiao, juez del Segundo Panel de Juicios Integrales del Tribunal de Internet de Pekín. Varias de las sentencias y casos que ha redactado han recibido premios por análisis de casos excelentes en el sistema de tribunales a nivel nacional, y han sido seleccionados como casos anuales de los tribunales de China. Además, ha publicado varios artículos en publicaciones como el “People’s Court Daily”.