TikTokから性的な黒人女性のAI動画が削除される BBC調査後

1日前

シェア保存

シャリハン・アルアクラス BBCニュースアラビア語

シェア保存

リア・ウラン（左） / インスタグラム（右）

リア・ウラン（左）は、自分の動画がAI生成のデジタルキャラクター（右）に改変されていることに気づいた

BBCがAI生成の黒人女性インフルエンサーを利用して性的に露骨なコンテンツを促進するサイトへ誘導している事例を指摘した後、TikTokは20アカウントを禁止した。

これらは、インスタグラムやTikTok上で増加しているアカウントの一部で、人種的ステレオタイプや言語の使用により、差別的、搾取的、誤解を招くと批判されている。

BBCと独立系AI出版物リダンスの研究者ジェレミー・カラスコとエンジェル・ヌラニは、両プラットフォーム上で、非常に性的な黒人女性のデジタルキャラクターやアバターを特徴とするアカウントを数十件特定した。

これらの画像や動画はAIによって生成されたものであるが、その旨の表示はなく、プラットフォームのガイドラインに違反している可能性がある。

ほとんどのアカウントはインスタグラムにあり、そのうち約3分の1はTikTokにも存在していた。インスタグラムの親会社MetaはBBCに調査中と伝えたが、具体的な措置については言及しなかった。

これらのアバターは、露出の多い水着やその他の露骨な衣服を着用し、誇張された体型で描かれることが多い。

中には、デジタル操作された非常に暗い肌色を持つものもあり、人工的な外見をしている。

アカウント名には「black」「noir」「dark」「ebony」などの用語が含まれ、いくつかの投稿には「白人男性を愛している」や「白人男性が必要」などのコメントも見られる。多くのアカウントは互いにフォローやいいねをしている。

リダンスの分析者ジェレミー・カラスコとエンジェル・ヌラニと協力して、BBCは主にインスタグラム上で、第三者サイトの有料の性的コンテンツへのリンクやリンクの連鎖を含む60のアカウントを特定した。これらのサイトは画像をAI生成とラベル付けしていたが、インスタグラムのアカウント側はそうしていなかった。

また、同様のAI生成アバターを持ち、リンクのないアカウントも多数確認された。

『私は怒った』

TikTokで閉鎖されたが、公開時にはインスタグラムで活動していたアカウントの一つが、実在の人物の動画を盗用していることにより、さらなる怒りを呼んでいる。

これは、印象的なAI生成キャラクターのアカウントとして運営され、2019年12月に作成されてから数週間で300万人のフォロワーを獲得した。

しかし、そのアカウントは、マレーシア在住のモデル、リア・ウランのコンテンツを改変して投稿していた。

アバターの顔は、非常に暗く人工的に作られた肌色で、リアの体に重ねられ、動きや服装、背景も再現されている。

「私は怒った」とリアはBBCに語った。「もちろん、私の動画はすべて公開されている…それを勝手に持ち出して盗用し、自分のものとして投稿することは許されない。」

インスタグラム

一部のアカウント（リアのコンテンツを盗用したものを含む）は、自分たちがAI生成であることを否定している。

改変された動画の一つはTikTokで3500万回以上、インスタグラムでは1億7300万回以上再生されており、リアの元の投稿の約47倍の視聴数を記録した。

リアのコンテンツと明確に一致する3つの動画は性的ではないが、同じデジタルキャラクターを使った他の動画は露出の多い服装や挑発的な行動を示している。アカウントからのリンクは有料のアダルトコンテンツへとつながっている。

「私が気になるのは、彼らが私の動画を使って露骨なコンテンツを宣伝していること、または人々が本当にそれを信じていることなのか分からない」と彼女は言う。

コンテンツが本物かどうかを見分けるのが難しくなり、「人々はこれらのAIモデルに騙され続けている」と彼女は付け加えた。

多くの視聴者は、アバターの非現実的な特徴にもかかわらず、それらを実在の人物とみなしているようだ。投稿やインスタグラムストーリーでは、一部のアカウントはAIの使用を否定しており、リアのコンテンツを盗用したアカウントも含まれる。

リアは、両プラットフォームに何度も報告したが、その時点ではコンテンツは削除されなかったと述べている。BBCがコメントを求めて調査した後、TikTokはこれを禁止した。

『非現実的な描写』

「これらのアカウントは人種差別的だと私は考えている。なぜなら、その存在は黒人の搾取の長い歴史を perpetuate しているからだ」とヌラニは述べる。

「彼らの誇張されたキャラクター、レースプレイ用語、非現実的な黒人女性の描写は、私たちの安全や福祉よりも、オンラインポルノの一部として資本化されることに関心があることを証明している」と付け加えた。

AIトレンドや技術を批評するカラスコは、「今の新しい傾向は、恥知らずで人種差別的な極端に黒い人々の描写の量だ」と述べる。

「そのフェティッシュは過去にもあったかもしれないが、AIはそれに新たな購入力を与えている」と彼は言う。AIは、自然でない肌色を作り出すために画像や動画のトーンを除去しやすくし、以前はアニメーションや肌の塗装が必要だった効果を簡単に作り出せるようにしている。

また、彼は、アバターには社会的な結果がないとも指摘する。「恥も何もない…それがAIの独自の悪用だ」と述べている。

ホウダ・フォノン / BOCHIC

コンテンツクリエイターのホウダ・フォノンは、実体験のオンライン反映が人工的な画像に置き換えられることを懸念している。

モロッコ出身のモデルであり、黒人女性のより本物の表現を推進するホウダ・フォノンは、この傾向は「抹消」だと述べる。

「絹のような髪、非常に細い体、信じられないほど完璧な肌…まるで黒人の美しさは『洗練』されることでしか受け入れられないかのようだ」と語る。

彼女は、これがステレオタイプを強化し、「私たちの物語や実体験が人工的なイメージに置き換えられる危険性がある」と指摘している。

BBCは、特定したアカウントの例をMetaとTikTokに送付し、回答を求めた。

2日後、TikTokのスポークスパーソンはBBCに対し、「規則に違反したコンテンツやアカウントを削除し、禁止した」と述べた。

数日以内に、20のアカウントがアプリ上で「禁止済み」とラベル付けされた。

「TikTokは、本人の許可なく使用されたAI生成の個人コンテンツを禁止しており、プラットフォーム外の性的サービスを促進するコンテンツにはゼロトレランスです」とスポークスパーソンは述べた。

同社は、有害または誤解を招くAI生成コンテンツを禁止・削除し、現実的なAI生成コンテンツにはラベル付けを義務付けている。いくつかの動画には適切なラベル付けも行ったと述べている。

Metaは、指摘されたコンテンツについて調査中だと回答した。

また、ユーザーに対し、AIで作成された投稿であることを知らせる方針を持ち、AI生成コンテンツのラベル付けに関するポリシーもあると述べている。BBCが追跡した9つのインスタグラムアカウントは、すでに存在しないようだ。

両プラットフォームとも、リアの最初の報告に対する具体的な対応については明らかにしていない。

TikTok

人工知能

黒人女性

インスタグラム

黒人関心