Відео з сексуалізованими чорними жінками, створені за допомогою штучного інтелекту, були видалені з TikTok після розслідування BBC

45 хвилин тому

ПоділитисяЗберегти

Шаріхан Аль-АкхрасBBC News Arabic

ПоділитисяЗберегти

Рія Улан (зліва) / Instagram (праворуч)

Рія Улан (зліва) помітила, що її відео було змінено для показу цифрової особи, згенерованої штучним інтелектом (праворуч)

TikTok заборонив 20 акаунтів після того, як BBC висвітлила використання чорних жіночих інфлюенсерів, створених за допомогою штучного інтелекту, для залучення користувачів на сайти з порнографічним контентом.

Вони є частиною зростаючої тенденції акаунтів в Instagram та TikTok, які критикують як расистські, експлуататорські та оманливі через расові стереотипи та мову, яку вони використовують.

BBC та дослідники з незалежного видання Riddance виявили десятки акаунтів на двох платформах із високосексуалізованими цифровими персонажами або аватарами чорних жінок.

Зображення та відео були згенеровані штучним інтелектом, але не позначені як такі, що, ймовірно, порушує правила платформ.

Майже всі акаунти були на Instagram, а близько третини мали версії й на TikTok. Материнська компанія Instagram, Meta, повідомила BBC, що проводить розслідування, але не повідомила про вжиті заходи.

Аватари часто зображуються у купальниках або іншому відкритому одязі та мають перебільшені форми тіла.

Деякі мають надзвичайно темний тон шкіри, який був цифрово змінений, що надає їм штучного вигляду.

Назви акаунтів містять такі терміни, як “чорний”, “нуар”, “темний” та “ебоні”. Декілька містять коментарі про білих чоловіків, наприклад “любить білих чоловіків” та “чому мені потрібен білий хлопець у житті”. Багато акаунтів підписуються або лайкають один одного.

BBC у співпраці з аналітиками Джеремі Карраско та Ангел Нулані з Riddance виявили 60 таких акаунтів, переважно на Instagram, які містили посилання або ланцюги посилань на платний порнографічний контент на сторонніх сайтах. Ці сайти позначали зображення як створені штучним інтелектом, але акаунти в Instagram — ні.

Дослідження також виявило багато інших акаунтів на обох платформах із подібними аватарами, згенерованими штучним інтелектом, які не містили посилань на платний контент.

‘Я був злий’

Один із акаунтів, закритих TikTok — хоча він ще працює на Instagram станом на час публікації — викликав додаткове обурення, крадучи відео у реальних людей.

Він представлений як акаунт яскравого персонажа, створеного штучним інтелектом, і за кілька тижнів після створення у грудні зібрав три мільйони підписників.

Але він модифікував і публікував відео справжнього контент-креатора, Рії Улан, моделі з Малайзії.

Обличчя аватара, з надзвичайно темним, штучно створеним тоном шкіри, накладене на тіло Рії, а рухи, одяг і фон — відтворені.

“Я був злий,” сказала Рія BBC. “Звичайно, мої відео вже всі там… Це не означає, що ти можеш просто взяти їх і викрасти та опублікувати як свої.”

Instagram

Деякі акаунти — включно з тим, що вкрав контент Рії — заперечують, що вони створені штучним інтелектом

Один із змінених відео набрав понад 35 мільйонів переглядів у TikTok і 173 мільйони — в Instagram, що приблизно у 47 разів більше за кількість переглядів оригінального посту Рії.

Хоча три відео, що явно відповідають контенту Рії, не є сексуальними, інші відео на AI-акаунті з тим самим цифровим персонажем показують його у відкритому одязі або з провокаційною поведінкою. Посилання з акаунта ведуть до платного дорослого контенту.

“Я не впевнена, чи більше мене турбує те, що вони використовують моє відео для просування свого порнографічного контенту, чи те, що люди вірять у це,” каже вона.

Зараз стає все важче для користувачів визначити, чи є контент реальним, і “люди продовжують падати на ці моделі штучного інтелекту,” додає вона.

Багато глядачів, здається, сприймають аватарів як реальних, незважаючи на їх нереалістичні особливості. У постах або історіях в Instagram деякі акаунти заперечують використання AI, включно з тим, що викрав контент Рії.

Рія каже, що вона кілька разів повідомляла про цей акаунт обом платформам, але на той час контент не був видалений. TikTok заблокував його після звернення BBC за коментарем.

‘Нереалістичні зображення’

“Я вважаю, що ці акаунти є расистськими, оскільки їх існування підтримує довгу історію експлуатації чорних людей,” каже Нулані, одна з дослідниць.

“Їх використання карикатур, термінології расової гри та нереалістичних зображень чорних жінок доводить, що вони не турбуються про нашу безпеку чи добробут, а про нашу здатність бути капіталізованими як частина онлайн-порнографічної машини,” додає вона.

Карраско, який критикує тренди та техніки штучного інтелекту у своїх соцмережах, каже: “нова річ — кількість безсоромних, расистських зображень надзвичайно чорних людей.”

Хоча “цей фетиш” міг існувати раніше, штучний інтелект “надає йому нову силу,” пояснює він. Він зазначає, що AI полегшує видалення підтонів у зображеннях і відео для створення темного тону шкіри, який не є природним, а також для створення ефектів, які раніше вимагали б анімації або розфарбовування шкіри.

Крім того, каже він, для аватара немає соціальних наслідків: “Немає сорому… це щось, що штучний інтелект унікально використовує.”

Худа Фононе / BOCHIC

Контент-креаторка Худа Фононе каже, що боїться, що онлайн-зображення досвіду життя замінюються штучними образами

Худа Фононе, марокканська модель і контент-креаторка, яка виступає за більш автентичне зображення чорних жінок, каже, що ця тенденція — про “забуття”.

“Шовковисте волосся, надзвичайно тонкі тіла та ідеально бездоганна шкіра… ніби чорна краса може бути прийнята лише, коли її ‘відшліфовано’.”

Вона вважає, що це може посилити стереотипи, тоді як “наші історії та реальні досвіди замінюються штучним образом”.

BBC надіслала Meta та TikTok приклади виявлених нами акаунтів і запитала їхні відповіді.

Через два дні представник TikTok повідомив BBC, що компанія “видалила контент і заборонила акаунти, які порушують наші правила”.

За кілька днів 20 акаунтів були позначені як “заблоковані” у додатку.

“TikTok забороняє AI-генерований контент осіб без їхньої згоди, у нас нульова толерантність до контенту, що пропагує сексуальні послуги поза платформою,” — сказав представник.

Компанія заявила, що забороняє та видаляє шкідливий або оманливий AI-генерований контент і вимагає від користувачів позначати реалістичний AI-контент. Вони також застосували правильне маркування до кількох відео.

Meta повідомила, що проводить розслідування щодо виявленого контенту.

Вони хочуть, щоб користувачі знали, коли вони дивляться пости, створені за допомогою AI, і мають політики щодо маркування AI-генерованого контенту. Дев’ять акаунтів в Instagram, які відслідковував BBC, зникли.

Жодна з платформ не надала деталей щодо своєї реакції на початкові повідомлення Рії.

TikTok

Штучний інтелект

Чорні жінки

Instagram

Інтереси чорної спільноти