Чому шкідливий контент продовжує доходити до дітей онлайн і як це пов'язано з рекламою

(МЕНАФН - The Conversation) Сьогодні діти можуть легко натрапити на шкідливий матеріал в Інтернеті, включаючи насильство, сексуальний контент і матеріали, що сприяють саморуйнуванню. Хоча це часто розглядається як провал модерації, глибша причина — економічна.

Більша частина Інтернету побудована на бізнес-моделі, яка винагороджує увагу понад усе. Простими словами, алгоритми, що рекомендують контент, не розрізняють суттєво корисний, нейтральний і шкідливий матеріал. Їх описують як «topic agnostic» — їх основне завдання — утримувати користувачів, щоб вони дивилися, прокручували і натискали.

Чому? Тому що увага приносить дохід від реклами.

Більшість онлайн-платформ здаються безкоштовними для користування, але вони здебільшого фінансуються через рекламу. Чим довше користувачі залишаються онлайн, тим більше реклами вони бачать і тим ціннішими стають для рекламодавців. В результаті дизайн платформи формується відповідно до того, що вчені називають «економікою уваги» — системою, в якій людська увага є ресурсом, що купується і продається.

Гарвардський дослідник Шошана Зубофф описує цю модель як «капіталізм спостереження»: платформи збирають поведінкові дані, прогнозують, що зроблять користувачі далі, і оптимізують системи для впливу на поведінку з метою отримання прибутку.

Це важливо, оскільки дослідження постійно показують, що емоційно заряджений контент — матеріал, що викликає страх, обурення, тривогу або шок — генерує більшу залученість. Дослідження систем рекомендацій виявили, що алгоритмічне ранжування має тенденцію посилювати контент, який тримає користувачів у емоційному стані, незалежно від його соціальної цінності (або її відсутності).

Для дорослих це може спотворювати громадські дебати та політичний дискурс. Для дітей наслідки можуть бути більш серйозними, оскільки їхні онлайн-звички та емоційні реакції ще формуються. Молоді люди більш чутливі до соціального порівняння, тривожних історій і емоційно насиченого матеріалу. Коли системи рекомендацій виявляють, що молодий користувач зупиняється, шукає або взаємодіє з таким контентом, вони часто відповідають, надаючи йому ще більше.

Результатом є те, що медіа-дослідники називають «зворотним зв’язком». Сигнали залученості стимулюють рекомендації; рекомендації збільшують експозицію; експозиція поглиблює залученість. Користувачі рідко цілеспрямовано цілиться людиною. Вони цілеспрямовано — системою оптимізації.

Громадські дебати часто вважають, що рішенням є швидше видалення шкідливих постів. Модерація важлива, але існує глибша проблема. Шкідливий контент продовжує поширюватися, оскільки базові стимули залишаються незмінними.

Якщо доходи платформи залежать від уваги, системи завжди будуть пріоритетизувати контент, який найефективніше її захоплює. Видалення окремих постів мало що змінить, якщо алгоритмічна логіка, що стимулює залученість, залишається незмінною.

Це допомагає пояснити, чому суперечки навколо онлайн-шкоди постійно виникають, незважаючи на нові інструменти безпеки та політики — і чому запропоновані заборони на соціальні мережі навряд чи вирішать корінну проблему. Дослідники у сфері управління платформами все частіше стверджують, що безпека вимагає змін у системному дизайні та стимулюваннях, а не лише у окремих елементах контенту.

Роль реклами — і чому це важливо зараз

Реклама рідко згадується у публічних дискусіях про онлайн-безпеку, але вона знаходиться в центрі екосистеми. Доходи від реклами фінансують системи рекомендацій, практики збору даних і стратегії оптимізації залученості.

Це не означає, що рекламодавці мають намір шкодити. Насправді багато брендів не усвідомлюють, де їхні оголошення з’являються у складних програмних ланцюгах реклами. Але економічна реальність залишається такою: залученість — включно з залученістю до шкідливого контенту — створює цінність.

Зростає увага до цього питання. У Великій Британії регулятори впроваджують Закон про онлайн-безпеку, у світі з’являються судові позови щодо шкоди від соціальних мереж, а дослідники отримують доступ до внутрішніх документів платформ через судові процеси. Разом ці події підвищують прозорість того, що давно називали «чорною скринькою» процесів прийняття рішень платформ.

Цифрове середовище не розвивалося природним шляхом. Воно створювалося через вибір — технічний, економічний і політичний — протягом десятиліть. І оскільки його спроектували, його можна перепроектувати.

Обговорення, яке зараз виходить у публічний простір, — це не просто заборона телефонів або звинувачення молодих користувачів. Це про стимули. Яке онлайн-середовище заохочують сучасні бізнес-моделі? І які альтернативи можуть ставити на перше місце добробут поряд із інноваціями?

Для тих, хто працює у сферах реклами та технологій, цей момент може здаватися особливо важливим. Більша обізнаність громадськості означає менше можливостей стверджувати, що онлайн-системи надто складні для розуміння або впливу.

Якщо мета — безпечні цифрові простори, дискусія має перейти від окремого контенту до структур, що визначають, чому цей контент поширюється спочатку. Розуміння того, як взаємодіють реклама, дані та алгоритми, — це не технічна деталь. Це ключ до створення Інтернету, який захищає дітей, а не отримує прибуток із їхньої уваги.