Mengapa Konten Berbahaya Terus Menjangkau Anak-Anak Online Dan Apa Hubungannya dengan Periklanan

Anak-anak hari ini dapat dengan mudah menemukan materi berbahaya secara daring, termasuk konten kekerasan, seksual, dan bunuh diri. Meskipun ini sering dianggap sebagai kegagalan moderasi, penyebab yang lebih mendalam adalah ekonomi.

Sebagian besar internet dibangun berdasarkan model bisnis yang menghargai perhatian di atas segalanya. Secara sederhana, algoritma yang merekomendasikan konten tidak membedakan secara bermakna antara materi yang membantu, netral, maupun berbahaya. Dikenal sebagai “topik agnostik”, tugas utama mereka adalah menjaga pengguna tetap menonton, menggulir, dan mengklik.

Mengapa? Karena perhatian mendorong pendapatan iklan.

Sebagian besar platform daring tampak gratis digunakan, tetapi sebagian besar didanai melalui iklan. Semakin lama pengguna tetap online, semakin banyak iklan yang mereka lihat dan semakin berharga mereka bagi pengiklan. Akibatnya, desain platform dibentuk oleh apa yang disebut para ahli sebagai “ekonomi perhatian” – sebuah sistem di mana perhatian manusia adalah sumber daya yang dibeli dan dijual.

Cendekiawan Harvard, Shoshana Zuboff, menyebut model ini sebagai “kapitalisme pengawasan”: platform mengumpulkan data perilaku, memprediksi apa yang akan dilakukan pengguna selanjutnya, dan mengoptimalkan sistem untuk mempengaruhi perilaku demi menghasilkan keuntungan.

Ini penting karena penelitian secara konsisten menunjukkan bahwa konten yang memicu emosi – materi yang menimbulkan ketakutan, kemarahan, kecemasan, atau kejutan – menghasilkan keterlibatan yang lebih tinggi. Studi tentang sistem rekomendasi menemukan bahwa peringkat algoritmik cenderung memperkuat konten yang membuat pengguna tetap emosional, terlepas dari nilai sosialnya (atau sebaliknya).

Bagi orang dewasa, ini dapat mengganggu debat publik dan diskursus politik. Bagi anak-anak, konsekuensinya bisa lebih serius karena kebiasaan daring dan respons emosional mereka masih berkembang. Remaja lebih sensitif terhadap perbandingan sosial, narasi yang menyedihkan, dan materi yang emosional intens. Ketika sistem rekomendasi mendeteksi bahwa pengguna muda berhenti, mencari, atau berinteraksi dengan konten tersebut, mereka sering merespons dengan menyajikan lebih banyak lagi.

Hasilnya adalah apa yang disebut peneliti media sebagai loop umpan balik. Sinyal keterlibatan mendorong rekomendasi; rekomendasi meningkatkan paparan; paparan memperdalam keterlibatan. Pengguna jarang menjadi target oleh orang secara langsung. Mereka ditargetkan oleh sistem optimisasi.

Debat publik sering menganggap solusi sebagai penghapusan cepat terhadap posting berbahaya. Moderasi penting, tetapi ada masalah yang lebih mendalam. Konten berbahaya terus menyebar karena insentif dasar tetap tidak berubah.

Jika pendapatan platform bergantung pada perhatian, sistem akan selalu memprioritaskan konten yang paling efektif menarik perhatian tersebut. Menghapus satu postingan tidak banyak membantu jika logika algoritmik yang mendorong keterlibatan tetap utuh.

Ini membantu menjelaskan mengapa kontroversi tentang bahaya daring terus muncul meskipun ada alat dan kebijakan keselamatan baru – dan mengapa larangan media sosial yang diusulkan kemungkinan besar tidak akan menyentuh akar masalahnya. Para peneliti dalam tata kelola platform semakin berargumen bahwa keselamatan memerlukan penanganan terhadap desain sistem dan insentif, bukan hanya konten individual.

Peran iklan – dan mengapa hal ini penting sekarang

Iklan jarang menjadi bagian dari percakapan publik tentang keselamatan daring, tetapi berada di pusat ekosistem. Pendapatan dari iklan mendanai sistem rekomendasi, praktik pengumpulan data, dan strategi optimisasi keterlibatan.

Ini tidak berarti pengiklan bermaksud merugikan. Faktanya, banyak merek tidak menyadari di mana iklan mereka muncul dalam rantai pasokan iklan programatik yang kompleks. Tetapi kenyataan ekonomi tetap sama: keterlibatan – termasuk keterlibatan dengan materi berbahaya – menghasilkan nilai.

Pengawasan semakin meningkat. Di Inggris, regulator menerapkan Undang-Undang Keamanan Daring, gugatan terkait bahaya media sosial muncul secara internasional, dan para peneliti mendapatkan akses ke dokumen internal platform melalui litigasi. Bersama-sama, perkembangan ini mengangkat apa yang selama ini disebut sebagai “kotak hitam” di sekitar pengambilan keputusan platform.

Lingkungan digital tidak berkembang secara alami. Ia dibangun melalui pilihan – teknis, ekonomi, dan politik – yang dibuat selama beberapa dekade. Dan karena dirancang, ia dapat dirancang ulang.

Percakapan yang kini muncul di depan umum bukan sekadar tentang melarang ponsel atau menyalahkan pengguna muda. Ini tentang insentif. Jenis lingkungan daring apa yang dihargai oleh model bisnis saat ini? Dan alternatif apa yang dapat mengutamakan kesejahteraan bersama inovasi?

Bagi orang yang bekerja di industri iklan dan teknologi, momen ini mungkin terasa sangat penting. Kesadaran publik yang lebih besar berarti peluang yang lebih sedikit untuk mengklaim bahwa sistem daring terlalu kompleks untuk dipahami atau dipengaruhi.

Jika tujuan utamanya adalah ruang digital yang lebih aman, perdebatan harus melampaui konten individual dan berfokus pada struktur yang menentukan mengapa konten tersebut menyebar sejak awal. Memahami bagaimana iklan, data, dan algoritma berinteraksi bukanlah detail teknis semata. Itu adalah kunci untuk membangun internet yang melindungi anak-anak daripada hanya mencari keuntungan dari perhatian mereka.