（MENAFN- The Conversation） 今日の子供たちは、暴力的、性的、自傷行為に関する有害なコンテンツに、驚くほど簡単に遭遇しています。これはしばしばモデレーションの失敗と見なされますが、根本的な原因は経済的なものです。インターネットの多くは、何よりも注意を引くことを報酬とするビジネスモデルに基づいています。簡単に言えば、コンテンツを推奨するアルゴリズムは、有益、ニュートラル、有害の区別を意味的に行っていません。これらは「トピック非依存」と呼ばれ、主な役割はユーザーを見続けさせ、スクロールさせ、クリックさせることです。なぜでしょうか？それは、注意が広告収入を生み出すからです。ほとんどのオンラインプラットフォームは無料で利用できるように見えますが、実際には主に広告収入によって資金が賄われています。ユーザーが長くオンラインに滞在すればするほど、多くの広告を目にし、広告主にとって価値が高まります。その結果、プラットフォームの設計は、「アテンションエコノミー」と呼ばれるシステムによって形作られています。これは、人間の注意が売買される資源となる仕組みです。ハーバード大学の学者ショシャナ・ズボフは、このモデルを「監視資本主義」と呼びます。プラットフォームは行動データを収集し、次に何をするかを予測し、行動に影響を与えるシステムを最適化して利益を生み出します。これは重要です。なぜなら、研究は一貫して、恐怖や憤り、不安、衝撃を引き起こす感情的に刺激的なコンテンツが、より高いエンゲージメントを生むことを示しているからです。レコメンダーシステムの研究では、アルゴリズムによるランキングは、社会的価値に関係なく、ユーザーを感情的に活性化させ続けるコンテンツを増幅しやすいことがわかっています。大人にとっては、これが公共の議論や政治的討論を歪める可能性があります。子供にとっては、より深刻な結果をもたらすことがあります。彼らのオンライン習慣や感情的反応はまだ発展途上であり、社会比較や不安を引き起こす物語、感情的に激しいコンテンツに対して敏感です。推奨システムは、そのようなコンテンツに子供が一時停止したり、検索したり、関与したりすると、それをより多く提供する傾向があります。その結果、メディア研究者が「フィードバックループ」と呼ぶ現象が生まれます。エンゲージメントの信号が推奨を促し、推奨が露出を増やし、露出がエンゲージメントを深める。ユーザーは個人によってターゲットにされるのではなく、最適化によってターゲットにされているのです。公共の議論はしばしば、有害な投稿を迅速に削除することが解決策と考えられます。モデレーションは重要ですが、根本的な問題は別にあります。有害なコンテンツが引き続き拡散するのは、根底にあるインセンティブが変わっていないからです。プラットフォームの収益が注意に依存している限り、システムは最も効果的に注意を引くコンテンツを優先します。個々の投稿を削除しても、エンゲージメントを促進するアルゴリズムの論理が維持されている限り、あまり意味がありません。これが、オンラインの有害事案に関する論争が新たな安全ツールやポリシーにもかかわらず再燃し続ける理由、そして提案されるソーシャルメディアの禁止措置が根本原因に対処しにくい理由を説明しています。プラットフォームのガバナンスに関する研究者たちは、より安全な環境を実現するには、システムの設計とインセンティブに取り組む必要があると主張しています。広告の役割とその重要性広告はオンライン安全に関する公共の議論にはほとんど登場しませんが、エコシステムの中心にあります。広告収入は、レコメンデーションシステム、データ収集の実践、エンゲージメント最適化戦略を支えています。これは、広告主が害を意図しているわけではないことを意味します。実際、多くのブランドは、自分たちの広告が複雑なプログラマティック広告のサプライチェーン内のどこに表示されているかを認識していません。しかし、経済的な現実は変わりません。エンゲージメント、特に有害なコンテンツへのエンゲージメントは価値を生み出します。監視は高まっています。英国では規制当局がオンライン安全法を施行し、ソーシャルメディアの有害性に関する訴訟が国際的に提起され、研究者は訴訟を通じてプラットフォームの内部文書にアクセスしています。これらの動きは、長らく「ブラックボックス」とされてきたプラットフォームの意思決定過程を明らかにしつつあります。デジタル環境は自然に進化したものではありません。技術的、経済的、政治的な選択によって築かれ、何十年もかけて作られたものです。そして、それは設計されたものである以上、再設計も可能です。今、公共の目に触れつつある議論は、単にスマートフォンの禁止や若者の責任追及だけではありません。インセンティブの問題です。現在のビジネスモデルはどのようなオンライン環境を促進しているのか。そして、福祉とイノベーションの両立を優先する代替案は何か。広告やテクノロジー業界で働く人々にとって、この瞬間は特に重要に感じられるかもしれません。より広い公共の認識は、オンラインシステムが理解や影響を及ぼすには複雑すぎるという主張の余地を減らします。安全なデジタル空間を目指すなら、議論は個々のコンテンツを超え、そのコンテンツがなぜ拡散するのかを決定する構造に移る必要があります。広告、データ、アルゴリズムの相互作用を理解することは、技術的な詳細ではなく、子供たちを守るインターネットを構築するための鍵です。
なぜ有害なコンテンツが子どもたちにオンラインで届き続けるのか、そして広告がそれに関係している理由
（MENAFN- The Conversation） 今日の子供たちは、暴力的、性的、自傷行為に関する有害なコンテンツに、驚くほど簡単に遭遇しています。これはしばしばモデレーションの失敗と見なされますが、根本的な原因は経済的なものです。
インターネットの多くは、何よりも注意を引くことを報酬とするビジネスモデルに基づいています。簡単に言えば、コンテンツを推奨するアルゴリズムは、有益、ニュートラル、有害の区別を意味的に行っていません。これらは「トピック非依存」と呼ばれ、主な役割はユーザーを見続けさせ、スクロールさせ、クリックさせることです。
なぜでしょうか？それは、注意が広告収入を生み出すからです。
ほとんどのオンラインプラットフォームは無料で利用できるように見えますが、実際には主に広告収入によって資金が賄われています。ユーザーが長くオンラインに滞在すればするほど、多くの広告を目にし、広告主にとって価値が高まります。その結果、プラットフォームの設計は、「アテンションエコノミー」と呼ばれるシステムによって形作られています。これは、人間の注意が売買される資源となる仕組みです。
ハーバード大学の学者ショシャナ・ズボフは、このモデルを「監視資本主義」と呼びます。プラットフォームは行動データを収集し、次に何をするかを予測し、行動に影響を与えるシステムを最適化して利益を生み出します。
これは重要です。なぜなら、研究は一貫して、恐怖や憤り、不安、衝撃を引き起こす感情的に刺激的なコンテンツが、より高いエンゲージメントを生むことを示しているからです。レコメンダーシステムの研究では、アルゴリズムによるランキングは、社会的価値に関係なく、ユーザーを感情的に活性化させ続けるコンテンツを増幅しやすいことがわかっています。
大人にとっては、これが公共の議論や政治的討論を歪める可能性があります。子供にとっては、より深刻な結果をもたらすことがあります。彼らのオンライン習慣や感情的反応はまだ発展途上であり、社会比較や不安を引き起こす物語、感情的に激しいコンテンツに対して敏感です。推奨システムは、そのようなコンテンツに子供が一時停止したり、検索したり、関与したりすると、それをより多く提供する傾向があります。
その結果、メディア研究者が「フィードバックループ」と呼ぶ現象が生まれます。エンゲージメントの信号が推奨を促し、推奨が露出を増やし、露出がエンゲージメントを深める。ユーザーは個人によってターゲットにされるのではなく、最適化によってターゲットにされているのです。
公共の議論はしばしば、有害な投稿を迅速に削除することが解決策と考えられます。モデレーションは重要ですが、根本的な問題は別にあります。有害なコンテンツが引き続き拡散するのは、根底にあるインセンティブが変わっていないからです。
プラットフォームの収益が注意に依存している限り、システムは最も効果的に注意を引くコンテンツを優先します。個々の投稿を削除しても、エンゲージメントを促進するアルゴリズムの論理が維持されている限り、あまり意味がありません。
これが、オンラインの有害事案に関する論争が新たな安全ツールやポリシーにもかかわらず再燃し続ける理由、そして提案されるソーシャルメディアの禁止措置が根本原因に対処しにくい理由を説明しています。プラットフォームのガバナンスに関する研究者たちは、より安全な環境を実現するには、システムの設計とインセンティブに取り組む必要があると主張しています。
広告の役割とその重要性
広告はオンライン安全に関する公共の議論にはほとんど登場しませんが、エコシステムの中心にあります。広告収入は、レコメンデーションシステム、データ収集の実践、エンゲージメント最適化戦略を支えています。
これは、広告主が害を意図しているわけではないことを意味します。実際、多くのブランドは、自分たちの広告が複雑なプログラマティック広告のサプライチェーン内のどこに表示されているかを認識していません。しかし、経済的な現実は変わりません。エンゲージメント、特に有害なコンテンツへのエンゲージメントは価値を生み出します。
監視は高まっています。英国では規制当局がオンライン安全法を施行し、ソーシャルメディアの有害性に関する訴訟が国際的に提起され、研究者は訴訟を通じてプラットフォームの内部文書にアクセスしています。これらの動きは、長らく「ブラックボックス」とされてきたプラットフォームの意思決定過程を明らかにしつつあります。
デジタル環境は自然に進化したものではありません。技術的、経済的、政治的な選択によって築かれ、何十年もかけて作られたものです。そして、それは設計されたものである以上、再設計も可能です。
今、公共の目に触れつつある議論は、単にスマートフォンの禁止や若者の責任追及だけではありません。インセンティブの問題です。現在のビジネスモデルはどのようなオンライン環境を促進しているのか。そして、福祉とイノベーションの両立を優先する代替案は何か。
広告やテクノロジー業界で働く人々にとって、この瞬間は特に重要に感じられるかもしれません。より広い公共の認識は、オンラインシステムが理解や影響を及ぼすには複雑すぎるという主張の余地を減らします。
安全なデジタル空間を目指すなら、議論は個々のコンテンツを超え、そのコンテンツがなぜ拡散するのかを決定する構造に移る必要があります。広告、データ、アルゴリズムの相互作用を理解することは、技術的な詳細ではなく、子供たちを守るインターネットを構築するための鍵です。