Las empresas de redes sociales están luchando contra la 'trampa de verificación de edad' ya que recopilar datos biométricos de los niños viola los derechos de privacidad

Una exploración facial en Instagram, un selfie en video en TikTok, una huella digital como contraseña en YouTube y una carga de identificación en Facebook. Aún no es la escena completa, pero recopilar nuestras biometrías para publicar un meme de IA será simplemente la norma a medida que Big Social pase por su momento de Big Tobacco.

Video recomendado

El panorama digital está experimentando una gran upheaval tras las demandas por adicción a las redes sociales y una frenética carrera regulatoria por la verificación de edad. Mientras las plataformas de redes sociales enfrentan un juicio histórico por el “reacción de dopamina” y las decisiones de diseño adictivas que dañan a los niños, ha surgido una crisis técnica y ética fundamental. Países como Australia están imponiendo prohibiciones en las redes sociales para menores de 16 años, mientras Meta actualmente está en juicio por acusaciones de crear intencionadamente un entorno adictivo para los niños en sus plataformas.

En la carrera por verificar la edad de un usuario—la principal herramienta que las empresas han implementado para frenar la adicción infantil—estas plataformas han revelado una paradoja comúnmente conocida como la “trampa de verificación de edad”. Simplemente, al intentar hacer cumplir las reglas de verificación de edad a sus usuarios, estas empresas están socavando la privacidad de datos de esos mismos usuarios.

Big Social tiene su momento de Big Tobacco

Empresas como Meta y TikTok enfrentan juicios federales y estatales que comparan sus plataformas y modelos de negocio con los del mercado del tabaco y los opioides, alegando que las empresas manipulan deliberadamente el diseño de las plataformas para promover la adicción del usuario. El CEO de Meta, Mark Zuckerberg, declaró recientemente que los estudios científicos no han probado el vínculo entre las redes sociales y los daños a la salud mental, pero los expertos argumentan lo contrario, diciendo que la adicción a las redes sociales está impulsada por los algoritmos de ingeniería diseñados para mantener a un usuario en línea.

“Estas empresas no están sujetas a un estándar que impida a los niños acceder a sus plataformas—y mucho menos, algo de lo que estas empresas “se benefician con los niños en su plataforma. Más personas, más anuncios,” dijo Debra Boeldt, PhD, psicóloga clínica y científica en IA en la empresa familiar de redes sociales Aura. Boeldt, quien lidera la investigación clínica en Aura—una compañía que usa IA para monitorear los hábitos en línea de los niños y proteger la privacidad de los adultos—afirmó que los niños son particularmente susceptibles al diseño actual de las redes sociales porque su función ejecutiva y control de impulsos aún están en desarrollo.

Para los niños, las plataformas de redes sociales no son solo aplicaciones, sino también su principal fuente de conexión social, señalando su investigación que muestra que uno de cada cinco niños de 13 años o menos pasa cuatro horas o más en redes sociales al día. Esto conlleva niveles más altos de estrés, ansiedad y depresión. Los niños son astutos, dijo Boeldt, y si se les prohíbe usar una plataforma, simplemente cambian a otra, en un juego de “matar al topo”.

“Los niños son súper astutos, y encontrarán la forma de evadir las restricciones,” dijo Boeldt a Fortune. “Saben cómo pasar desapercibidos.”

Mientras las empresas de redes sociales buscan eliminar a los menores de sus plataformas o emplear IA para buscar contenido censurado, tendrán dificultades para garantizar que puedan eliminar con precisión el acceso a quienes sean menores de cierta edad. (Boeldt incluso mencionó plataformas como Instagram y TikTok que monitorean el lenguaje y cómo los niños ya han encontrado lagunas, usando “archivos PDF” o “desaparecer”, y creando nuevo vocabulario que hace que esos censores sean inútiles: después de todo, los niños son astutos).

Aún así, advirtió que el efecto adverso es aún peor, en el que solo unos pocos usuarios son bloqueados de un sitio de redes sociales en lugar de todos. Si las plataformas apenas logran impedir el acceso a menores, pero eliminan el acceso a unos pocos a la vez, eso crea un “efecto isla” donde, a menos que la prohibición sea universal, un niño aislado de las redes sociales queda separado mientras sus amigos siguen conectados en línea.

La regulación apenas sigue el ritmo del uso

Olvídese de las demandas actuales que actúan como prueba de fuego para las reglas de diseño de las redes sociales: la regulación actual apenas sigue el ritmo del uso que los niños hacen de las redes sociales—y las herramientas que usan las empresas fallan en mantener segura la privacidad de los usuarios. En los últimos meses, plataformas que emplean software de verificación de terceros han visto cómo se hackean y exponen los datos de sus usuarios, han tenido que anunciar y retractarse de censores impulsados por IA, y luchan contra la mala percepción pública de una base de usuarios cada vez más insatisfecha.

Esto se complica por las crecientes medidas regulatorias en países de todo el mundo. Australia aprobó en 2024 una legislación histórica que prohíbe a menores de 16 años tener cuentas en plataformas como Facebook, TikTok y YouTube. A nivel nacional, 32 estados han introducido leyes de verificación de edad, y esto se intensifica con externalidades aún por verse tras el anuncio de la Comisión Federal de Comercio la semana pasada de que ejercerá “discreción en la aplicación” respecto a la Norma de Protección de la Privacidad Infantil en Línea (COPPA). Esto permitiría a las empresas de redes sociales recopilar datos de niños sin consentimiento parental—pero solo con fines de verificación de edad.

Sin embargo, esto no resuelve el problema paradójico de recopilar datos de niños y usuarios de manera adecuada sin infringir sus derechos de privacidad. La problemática se intensifica al analizar a los usuarios en estas plataformas.

“Los humanos ahora somos la minoría en internet; hemos visto que el tráfico bot-humano aumenta 50 veces año tras año,” dijo Johnny Ayers, CEO de Socure, una empresa de verificación de identidad impulsada por IA. Ayers dijo a Fortune que gracias a los bots, el uso de deepfakes ha aumentado casi un 8,000% año tras año—haciendo que muchos de los softwares de verificación en el mercado sean inútiles. En su lugar, uno de los controles digitales que emplea su empresa incluye usar el gimbal de cada teléfono móvil para verificar si realmente una persona está sosteniendo el teléfono durante la verificación de identidad.

Evin McMullen, cuya empresa Billions Network se usa para métodos de lucha contra el lavado de dinero y Conoce a tu Cliente (KYC), dice que recopilar biometría es una forma en que las plataformas confirman tu identidad, porque no puedes cambiar lo que esas biometrías dicen de ti.

“Suena un poco atrevido, pero la idea [es] que no puedes rotar tus pulgares, lo que significa que no puedes cambiar la contraseña ni gestionar la seguridad fácilmente de las mismas maneras,” dijo McMullen a Fortune. “Las identidades basadas en tu biometría realmente priorizan la facilidad de uso y la seguridad de tus datos más vitales,” agregó, señalando que el modelo actual de gestores de contraseñas es “insostenible y ya no seguro.”

Pero los problemas surgen con los niños y la privacidad, otra vez algo que debe revisarse ahora a la luz de la decisión de la FTC sobre COPPA.

“No puedes recopilar biometría de un niño,” dijo Ayers a Fortune. “¿Y cómo verificas que alguien tiene 13 años sin verificar, sin recopilar nada, que tiene 13?”

Las herramientas ya no son útiles

Una forma de hacerlo es mediante la recopilación de pruebas de conocimiento cero (ZKP) que determinen la veracidad de una declaración y, por ende, la identidad de esa persona. McMullen, cuyos clientes en la industria financiera buscan métodos de verificación de identidad no invasivos, es una gran defensora de las ZKP, añadiendo que son particularmente útiles para establecer confianza entre las partes.

Las ZKP son un método que permite a una persona—que busca verificarse a sí misma—responder a declaraciones de manera que establecen confianza con la parte verificadora sin revelar información personal o secreta. Por ejemplo, el problema de 4+4=8. Esto es algo que la persona que busca ser verificada sabe que es cierto, pero el método de ZKP se basa en la confianza. En lugar de preguntar si 4+4=8, el verificante hace una serie de preguntas para determinar si la persona que quiere verificarse está diciendo la verdad (o en este caso, sabe que eso es cierto). El verificante puede preguntar si 4+4=7; si la suma de 4+4 es un número par, y así sucesivamente, y después de la serie de preguntas, puede determinar la veracidad de las afirmaciones de la persona, identificándola.

Este no es un método común para probar la identidad. Hasta ahora, las empresas de redes sociales han utilizado varias tecnologías para verificar la edad de las personas, incluyendo verificaciones basadas en identidad como solicitar a los usuarios subir una identificación emitida por el gobierno; usar IA para escanear el rostro de un usuario; rastrear la actividad del usuario para determinar su edad; y emplear herramientas de supervisión parental como Instagram, que introdujo Cuentas para Adolescentes para alertar a los padres sobre hábitos dañinos en línea.

En el fondo, no existe una herramienta que pueda verificar la edad de un usuario sin infringir inherentemente su privacidad. Los modelos precisos requieren medidas extremadamente invasivas como biometría o identificaciones gubernamentales—y las identificaciones son algo que incluso las empresas de redes sociales dudan en solicitar, debido a la brecha de identificación en la que 15 millones de estadounidenses carecen de cualquier documento, un problema que afecta desproporcionadamente a adultos negros e hispanos, inmigrantes y personas con discapacidades.

Usar IA para escanear rostros poco ayuda a resolver el problema, ya que los expertos han encontrado que estos modelos de IA son menos precisos para grupos minoritarios y a menudo clasifican erróneamente a adultos como menores, mientras que la IA en sí no puede distinguir una voz sintética o un deepfake de un humano real. Los niños, que nuevamente son astutos, también suelen evadir las prohibiciones geográficas usando VPNs, como en Florida donde el uso de VPN aumentó un 1,150% después de que el estado comenzó a requerir verificación de edad para acceder a Pornhub. Y, por último, existen riesgos de seguridad importantes al almacenar documentos de identidad, como la reciente brecha del proveedor externo de Discord, 5CA, que dejó expuestos en línea más de 70,000 IDs gubernamentales.

En última instancia, la “trampa de verificación de edad” es lo que sucede cuando los reguladores tratan la imposición de edad como obligatoria y relegan la privacidad a un estado opcional. Hasta que métodos como las ZKP o la verificación basada en dispositivos se conviertan en la norma, estos expertos advierten que la Era Digital continuará en la madriguera del conejo intentando probar la identidad de una persona sin infringir los derechos de privacidad.