Por Qué El Contenido Dañino Sigue Llegando A Los Niños En Línea Y Qué Tiene Que Ver La Publicidad Con Ello

(MENAFN- La Conversación) Los niños de hoy pueden encontrar material dañino en línea con una facilidad alarmante, incluyendo contenido violento, sexual y de autolesiones. Aunque esto a menudo se trata como una falla en la moderación, la causa más profunda es económica.

Gran parte de internet se basa en un modelo de negocio que recompensa la atención por encima de todo. En términos simples, los algoritmos que recomiendan contenido no distinguen de manera significativa entre material útil, neutral o dañino. Descritos como “sin sesgo temático”, su tarea principal es mantener a los usuarios viendo, desplazándose y haciendo clic.

¿Y por qué? Porque la atención impulsa los ingresos por publicidad.

La mayoría de las plataformas en línea parecen ser gratuitas, pero en realidad se financian en gran medida a través de la publicidad. Cuanto más tiempo permanezcan los usuarios en línea, más anuncios ven y más valiosos son para los anunciantes. Como resultado, el diseño de las plataformas está moldeado por lo que los académicos llaman la “economía de la atención”: un sistema en el que la atención humana es el recurso que se compra y se vende.

La académica de Harvard Shoshana Zuboff describe este modelo como “capitalismo de vigilancia”: las plataformas recopilan datos de comportamiento, predicen qué harán los usuarios a continuación y optimizan los sistemas para influir en el comportamiento de manera que generen beneficios.

Esto importa porque investigaciones muestran consistentemente que el contenido emocionalmente cargado —material que provoca miedo, indignación, ansiedad o shock— genera mayor participación. Los estudios sobre sistemas de recomendación han encontrado que el ranking algorítmico tiende a amplificar contenido que mantiene a los usuarios emocionalmente activos, independientemente de su valor social (o de otro tipo).

Para los adultos, esto puede distorsionar el debate público y el discurso político. Para los niños, las consecuencias pueden ser más graves porque sus hábitos en línea y respuestas emocionales aún están en desarrollo. Los jóvenes son más sensibles a la comparación social, narrativas perturbadoras y material emocionalmente intenso. Cuando los sistemas de recomendación detectan que un usuario joven se detiene, busca o interactúa con dicho contenido, a menudo responden entregando más de él.

El resultado es lo que los investigadores de medios describen como un ciclo de retroalimentación. Las señales de participación impulsan recomendaciones; las recomendaciones aumentan la exposición; la exposición profundiza la participación. Los usuarios rara vez son objetivo de una persona. Son objetivo de la optimización.

El debate público a menudo asume que la solución es eliminar más rápidamente las publicaciones dañinas. La moderación es importante, pero hay un problema más profundo. El contenido dañino sigue propagándose porque los incentivos subyacentes permanecen sin cambios.

Si los ingresos de la plataforma dependen de la atención, los sistemas siempre priorizarán el contenido que la capte de manera más efectiva. Eliminar publicaciones individuales hace poco si la lógica algorítmica que promueve la compromiso permanece intacta.

Esto ayuda a explicar por qué las controversias sobre daños en línea siguen resurgiendo a pesar de las nuevas herramientas y políticas de seguridad, y por qué las propuestas de prohibiciones en redes sociales probablemente no aborden la causa raíz. Los investigadores en gobernanza de plataformas argumentan cada vez más que la seguridad requiere abordar el diseño del sistema y los incentivos, no solo piezas individuales de contenido.

El papel de la publicidad —y por qué importa ahora

La publicidad rara vez aparece en las conversaciones públicas sobre seguridad en línea, pero está en el centro del ecosistema. Los ingresos publicitarios financian los sistemas de recomendación, las prácticas de recopilación de datos y las estrategias de optimización del compromiso.

Esto no significa que los anunciantes tengan la intención de causar daño. De hecho, muchas marcas desconocen dónde aparecen sus anuncios dentro de cadenas complejas de publicidad programática. Pero la realidad económica sigue siendo: la participación —incluida la participación con material dañino— genera valor.

La vigilancia está creciendo. En el Reino Unido, los reguladores están implementando la Ley de Seguridad en Línea, se están presentando demandas por daños en redes sociales a nivel internacional, y los investigadores están accediendo a documentos internos de plataformas a través de litigios. Juntos, estos desarrollos están levantando lo que durante mucho tiempo se ha descrito como una “caja negra” en torno a la toma de decisiones de las plataformas.

El entorno digital no evolucionó de forma natural. Fue construido mediante decisiones —técnicas, económicas y políticas— tomadas a lo largo de décadas. Y como fue diseñado, puede ser rediseñado.

La conversación que ahora sale a la luz pública no se trata simplemente de prohibir teléfonos o culpar a los jóvenes usuarios. Se trata de incentivos. ¿Qué tipos de entornos en línea recompensan los modelos de negocio actuales? ¿Y qué alternativas podrían priorizar el bienestar junto con la innovación?

Para las personas que trabajan en las industrias de publicidad y tecnología, este momento puede parecer especialmente importante. La mayor conciencia pública significa menos oportunidades para afirmar que los sistemas en línea son demasiado complejos para entender o influir.

Si el objetivo es espacios digitales más seguros, el debate debe ir más allá del contenido individual hacia las estructuras que determinan por qué ese contenido se propaga en primer lugar. Entender cómo interactúan la publicidad, los datos y los algoritmos no es un detalle técnico. Es la clave para construir un internet que proteja a los niños en lugar de obtener beneficios de su atención.