Reddit demanda a Anthropic por presunto uso indebido de datos de usuarios en el entrenamiento de modelos de IA

Descubre las principales noticias y eventos de fintech

Suscríbete al boletín de FinTech Weekly

Leen ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

Reddit presenta una demanda contra Anthropic por uso no autorizado de datos de usuarios

Reddit emprendió acciones legales contra la empresa de inteligencia artificial Anthropic, acusando a la startup de incumplir sus términos de servicio y de realizar lo que la plataforma denomina “actos comerciales ilícitos e injustos”. La demanda, presentada el miércoles ante un tribunal federal, intensifica las tensiones por el uso de contenido web disponible públicamente para entrenar sistemas comerciales de IA.

Según la denuncia, Reddit alega que Anthropic accedió y utilizó grandes volúmenes de contenido generado por usuarios de Reddit para entrenar sus modelos de IA sin obtener los permisos o licencias necesarios. La plataforma social sostiene que esto no solo viola sus políticas, sino que también explota las contribuciones de sus usuarios para obtener beneficios comerciales sin consentimiento.

El caso pone de relieve preguntas más amplias sobre quién es el propietario del contenido en línea en la era de la IA generativa, y sobre cómo deberían tratar las empresas los datos públicos que incorporan matices sobre expectativas de privacidad y confianza comunitaria.

Un desafío legal basado en el uso de contenido y la obtención de beneficios comerciales

Reddit afirma que Anthropic, a pesar de presentarse como una empresa de IA impulsada por la ética, ha actuado haciendo caso omiso de las reglas de la plataforma de Reddit.

El núcleo de la denuncia se centra en la afirmación de que Anthropic entrenó sus modelos de IA—en particular Claude—con datos de Reddit raspados sin autorización. Reddit señala que, a diferencia de OpenAI y Google, que firmaron acuerdos de licenciamiento que cumplen con los términos de la plataforma y con las protecciones para los usuarios, Anthropic no consiguió asegurar permisos similares.

Esta distinción podría ser un factor clave en el caso, especialmente porque las firmas de IA están cada vez más bajo presión para aclarar de qué forma obtienen y gestionan los datos de entrenamiento, en particular cuando esos datos provienen de plataformas con contenido aportado por los usuarios.

Boom de la IA y tensiones en las plataformas

Desde finales de 2022, la IA generativa ha impulsado cambios sustanciales en toda la industria tecnológica, y plataformas como Reddit se han convertido en repositorios de alto valor para conocimientos, discusiones y asesoría generados por humanos. Estas cualidades las hacen atractivas para desarrolladores de IA que crean modelos más capaces y conscientes del contexto.

Reddit, por su parte, se ha inclinado hacia la economía de la IA y recientemente anunció asociaciones con OpenAI y Google que permiten a esas firmas usar contenido de Reddit bajo términos de licenciamiento específicos. Estos acuerdos buscan preservar la privacidad de los usuarios mientras habilitan ingresos gracias al contenido de la plataforma durante 20 años.

El supuesto uso de datos de Reddit por parte de Anthropic, sin embargo, ocurrió sin acuerdos de ese tipo, según la demanda. La plataforma social sostiene que esto ha causado un perjuicio financiero y reputacional directo, al citar el uso comercial no autorizado de sus datos para mejorar los productos de un competidor.

El equipo legal de Reddit recalcó que respetar las reglas de la plataforma no es opcional, especialmente en sectores como fintech e IA, donde la transparencia y el cumplimiento reciben una atención cada vez mayor por parte tanto de los usuarios como de los reguladores.

Implicaciones para el mercado y respuesta de la industria

Las acciones de Reddit subieron más de 6% el miércoles tras el anuncio de la demanda, señalando el respaldo de los inversionistas a la decisión de la empresa de hacer valer sus derechos sobre los datos. La compañía, que salió a bolsa a principios de 2024, mantiene actualmente una capitalización de mercado de aproximadamente $22 mil millones.

Anthropic, entretanto, se ha convertido rápidamente en una de las startups de la industria de la IA con mayor financiación. La compañía fue valorada en $61.5 mil millones en marzo, con respaldo de actores importantes como Amazon, Salesforce Ventures y Cisco Investments.

Aunque Anthropic ha afirmado que no está de acuerdo con las acusaciones de Reddit, el resultado de la demanda podría tener implicaciones a largo plazo en cómo las empresas de IA abordan la recopilación de datos. También podría influir en la forma en que las plataformas fijan precios o restringen el acceso a su contenido para fines de entrenamiento.

Personas del sector han señalado que, aunque el desarrollo de IA a menudo implica el raspado de datos desde dominios públicos, la frontera entre “disponible públicamente” y “usable comercialmente” sigue sin estar clara. Casos legales como este podrían impulsar marcos más definidos que equilibren la innovación con el uso ético del contenido.

Mayor atención a la ética de los datos en la IA

La acción legal emprendida por Reddit forma parte de un patrón más amplio en el que las plataformas están comenzando a resistirse a lo que perciben como la explotación por parte de empresas de IA. A medida que más firmas tecnológicas buscan monetizar sus activos de datos, el licenciamiento de contenido se ha convertido en un campo de batalla.

Reddit dejó claro en su denuncia que no está en contra del uso de sus datos en el entrenamiento de IA, sino del uso no autorizado. Al establecer una distinción entre compañías que respetan sus términos—como OpenAI y Google—y aquellas que supuestamente no lo hacen, Reddit busca posicionarse como una opción amigable para la IA y a la vez protectora de su comunidad de usuarios.

En la denuncia se señaló la asociación existente de OpenAI con Reddit, y la conexión entre Reddit y el CEO de OpenAI, Sam Altman, exmiembro de la junta y principal accionista, añade aún más complejidad al contexto de la demanda.

Qué viene después

A medida que se desarrolla el proceso judicial, todas las miradas estarán puestas en cómo el sistema legal aborda las líneas difusas entre el contenido del internet abierto y los datos de entrenamiento propietarios. El caso podría sentar un precedente para futuras disputas entre plataformas de contenido y desarrolladores de IA.

Por ahora, el desafío legal de Reddit se suma a la creciente tensión sobre cómo se entrenan los modelos de IA y en qué medida los propietarios de plataformas pueden y deben controlar el acceso a los datos que aportan sus usuarios.

La demanda también refuerza el mensaje de que la era del raspado de datos sin regulación podría estar llegando a su fin, especialmente a medida que crece la conciencia pública sobre los derechos de los datos y las plataformas buscan ejercer más control sobre cómo se utiliza su contenido en aplicaciones de IA.