深い潮流 TechFlow のメッセージ。4月2日、Fortune の報道によると、全米教職員連盟や全米相談協会などを含む200以上の児童の権利団体および専門家が、YouTube の CEO Neal Mohan および Google の CEO Sundar Pichai 宛てに連名書簡を送り、AI によって生成された低品質の「ゴミ動画」（AI slop）を YouTube Kids に全面的に禁止するよう求めた。
この連名書簡は、児童の権利団体 Fairplay が主導して発起されたもので、『不安の世代』の著者 Jonathan Haidt などの著名な学者も署名している。書簡では、児童向けに大量生産された動画コンテンツが YouTube Kids のプラットフォームを席巻しており、これらの動画は制作コストが低く、内容が不条理、または意味がないにもかかわらず、アルゴリズムによって継続的に子どもの注意を引きつけ、「乗っ取り」続けるよう設計されていると指摘している。Fairplay の調査によれば、子ども向けの主要な AI ゴミコンテンツのチャンネルの年間収益は 425 万ドル超にのぼる一方で、YouTube Kids 上で 8歳未満の子ども向けの動画のうち、わずか約 5% しか高品質コンテンツに該当しないという。
Fairplay のプロジェクト責任者 Rachel Franz は、AI 生成コンテンツは現実を歪め、混乱を生み出し、子どもの世界認識の発達に影響を与えると述べ、さらにプラットフォームのアルゴリズムが低年齢のユーザーに対してこうしたコンテンツを継続的に推奨するため、ほぼ避けて通れない状況になるとしている。連合は、構造的な改革のための複数の要求を提示しており、それには、YouTube Kids 上での AI 生成コンテンツの全面禁止、全プラットフォームでの AI 生成動画の明確な表示、18歳以下のユーザーへの AI コンテンツのアルゴリズム推奨の禁止、デフォルトでオフになっている保護者向け AI コンテンツスイッチの提供、そして児童向けの AI コンテンツ事業（Google AI Futures Fund が支援する児童向けエンターテインメント・スタジオ Animaj など）への投資の停止が含まれる。
YouTube の広報担当者は、プラットフォームでは YouTube Kids のコンテンツに厳格な基準があり、AI 生成コンテンツは少数の高品質チャンネルの範囲に制限しているとし、さらに AI 向けの専用タグ機能を開発中だが、具体的な提供開始のタイムテーブルは提示していないと回答した。YouTube の CEO Neal Mohan は、これに先立つ年次の公開書簡の中で、「AI ゴミコンテンツの管理」を主要な優先課題の1つとして挙げていた。
200を超える児童権利団体が共同で要求 YouTube 全面禁止 AI 生成の「ゴミコンテンツ」が児童向けプラットフォームに入ること
深い潮流 TechFlow のメッセージ。4月2日、Fortune の報道によると、全米教職員連盟や全米相談協会などを含む200以上の児童の権利団体および専門家が、YouTube の CEO Neal Mohan および Google の CEO Sundar Pichai 宛てに連名書簡を送り、AI によって生成された低品質の「ゴミ動画」（AI slop）を YouTube Kids に全面的に禁止するよう求めた。
この連名書簡は、児童の権利団体 Fairplay が主導して発起されたもので、『不安の世代』の著者 Jonathan Haidt などの著名な学者も署名している。書簡では、児童向けに大量生産された動画コンテンツが YouTube Kids のプラットフォームを席巻しており、これらの動画は制作コストが低く、内容が不条理、または意味がないにもかかわらず、アルゴリズムによって継続的に子どもの注意を引きつけ、「乗っ取り」続けるよう設計されていると指摘している。Fairplay の調査によれば、子ども向けの主要な AI ゴミコンテンツのチャンネルの年間収益は 425 万ドル超にのぼる一方で、YouTube Kids 上で 8歳未満の子ども向けの動画のうち、わずか約 5% しか高品質コンテンツに該当しないという。
Fairplay のプロジェクト責任者 Rachel Franz は、AI 生成コンテンツは現実を歪め、混乱を生み出し、子どもの世界認識の発達に影響を与えると述べ、さらにプラットフォームのアルゴリズムが低年齢のユーザーに対してこうしたコンテンツを継続的に推奨するため、ほぼ避けて通れない状況になるとしている。連合は、構造的な改革のための複数の要求を提示しており、それには、YouTube Kids 上での AI 生成コンテンツの全面禁止、全プラットフォームでの AI 生成動画の明確な表示、18歳以下のユーザーへの AI コンテンツのアルゴリズム推奨の禁止、デフォルトでオフになっている保護者向け AI コンテンツスイッチの提供、そして児童向けの AI コンテンツ事業（Google AI Futures Fund が支援する児童向けエンターテインメント・スタジオ Animaj など）への投資の停止が含まれる。
YouTube の広報担当者は、プラットフォームでは YouTube Kids のコンテンツに厳格な基準があり、AI 生成コンテンツは少数の高品質チャンネルの範囲に制限しているとし、さらに AI 向けの専用タグ機能を開発中だが、具体的な提供開始のタイムテーブルは提示していないと回答した。YouTube の CEO Neal Mohan は、これに先立つ年次の公開書簡の中で、「AI ゴミコンテンツの管理」を主要な優先課題の1つとして挙げていた。