Відео з сексуалізованими чорними жінками, створені за допомогою штучного інтелекту, були видалені з TikTok після розслідування BBC

1 день тому

ПоділитисяЗберегти

Шаріхан Аль-АхрасBBC News Arabic

ПоділитисяЗберегти

Рія Улан (зліва) / Instagram (праворуч)

Рія Улан (зліва) помітила, що її відео було змінено, щоб показати цифрову особу, згенеровану штучним інтелектом (праворуч)

TikTok заборонив 20 акаунтів після того, як BBC висвітлила використання чорних жіночих інфлюенсерів, створених штучним інтелектом, для залучення користувачів на сайти з порнографічним контентом.

Вони є частиною зростаючої тенденції акаунтів в Instagram і TikTok, які критикують як расистські, експлуататорські та оманливі через расові стереотипи та мову, яку вони використовують.

BBC та дослідники з незалежного видання Riddance виявили десятки акаунтів на двох платформах, що містять високосексуалізованих чорних жіночих цифрових персонажів або аватарів.

Зображення та відео були згенеровані штучним інтелектом, але не позначені як такі, що, ймовірно, порушує правила платформ.

Майже всі акаунти були на Instagram, і близько третини мали версії й на TikTok. Материнська компанія Instagram, Meta, повідомила BBC, що проводить розслідування, але не повідомила про будь-які дії.

Аватари часто зображуються у купальниках або іншому відкритому одязі та з перебільшеними формами тіла.

Деякі мають надзвичайно темний тон шкіри, який був цифрово змінений, що надає їм штучного вигляду.

Назви акаунтів містять терміни, такі як “black”, “noir”, “dark” та “ebony”. Декілька містять коментарі про білих чоловіків у своїх постах, наприклад “любить білих чоловіків” та “чому мені потрібен білий хлопець у моєму житті”. Багато акаунтів слідкують один за одним або лайкають.

BBC у співпраці з аналітиками Джеремі Карраско та Ангел Нулані з Riddance виявили 60 таких акаунтів, переважно на Instagram, які містили посилання або ланцюги посилань на платний порнографічний контент на сторонніх сайтах. Ці сайти позначали зображення як створені штучним інтелектом, але акаунти в Instagram — ні.

Дослідження також виявило багато інших акаунтів на обох платформах з подібними аватарами, створеними штучним інтелектом, які не містили посилань на платний контент.

‘Я був злий’

Один із акаунтів, закритих TikTok — хоча він ще працює на Instagram станом на час публікації — викликав додаткове обурення, крадучи відео у реальних людей.

Він представлений як акаунт яскравого персонажа, створеного штучним інтелектом, і за кілька тижнів після створення у грудні зібрав три мільйони підписників.

Але він модифікував і публікував відео справжнього контент-креатора, Рії Улан, моделі з Малайзії.

Обличчя аватара, з надзвичайно темним, штучно створеним тоном шкіри, накладене на тіло Рії, а рухи, одяг і фон відтворені.

“Я був злий,” сказала Рія BBC. “Звичайно, мої відео вже всі там… Це не означає, що ти можеш просто взяти і вкрасти їх, і публікувати як свої.”

Instagram

Деякі акаунти — включно з тим, що вкрав контент Рії — заперечують, що вони створені штучним інтелектом

Один із змінених відео набрав понад 35 мільйонів переглядів у TikTok і 173 мільйони в Instagram, що приблизно у 47 разів більше за перегляди оригінального посту Рії.

Хоча три відео, що явно відповідають контенту Рії, не є сексуальними, інші відео на AI-акаунті з тим самим цифровим персонажем показують його у відкритому одязі або з провокаційними діями. Посилання з акаунта ведуть до платного дорослого контенту.

“Я не впевнена, чи більше мене турбує те, що вони взяли моє відео для просування свого порнографічного контенту, або те, що люди вірять у це,” каже вона.

Зі слів Рії, стає все важче для користувачів визначити, чи є контент реальним, і “люди продовжують потрапляти на ці моделі штучного інтелекту”, додає вона.

Багато глядачів, здається, сприймають аватарів як реальних, незважаючи на їх нереалістичні особливості. У постах або історіях в Instagram деякі акаунти заперечують використання AI, включно з тим, що викрав контент Рії.

Рія каже, що кілька разів повідомляла про цей акаунт обидві платформи, але тоді контент не був видалений. TikTok заблокував його після звернення BBC за коментарем.

‘Нереалістичні зображення’

“Я вважаю, що ці акаунти є расистськими, оскільки їх існування підтримує довгу історію експлуатації чорних людей,” каже Нулані, одна з дослідниць.

“Їх використання карикатур, расових термінів і нереалістичних зображень чорних жінок доводить, що вони не турбуються про нашу безпеку чи добробут, а про нашу здатність бути використаними як частина онлайн-порнографічної машини,” додає вона.

Карраско, який критикує тренди та техніки штучного інтелекту у своїх соцмережах, каже: “нова річ — кількість безсоромних, расистських зображень дуже чорних людей.”

Хоча “цей фетиш” міг існувати раніше, AI “надає йому нову силу,” пояснює він. Він додає, що AI полегшує видалення підтонів у зображеннях і відео для створення темного тону шкіри, який не є природним, і для створення ефектів, раніше доступних лише за допомогою анімації або розфарбовування шкіри.

Крім того, каже він, для аватара немає соціальних наслідків: “Немає сорому… це щось, що штучний інтелект унікально використовує.”

Хауда Фононе / BOCHIC

Контент-креаторка Хауда Фононе каже, що боїться, що онлайн-зображення реального досвіду замінюються штучними образами

Хауда Фононе, марокканська модель і контент-креаторка, яка виступає за більш автентичне зображення чорних жінок, каже, що ця тенденція — про “забуття”.

“Шовковисте волосся, надзвичайно тонкі тіла і ідеально бездоганна шкіра… ніби чорна краса може бути прийнята лише тоді, коли вона ‘відшліфована’.”

Вона вважає, що це ризикує закріпити стереотипи, тоді як “наші історії та реальні досвіди замінюються штучним образом”.

BBC надіслала Meta та TikTok приклади виявлених нами акаунтів і запитала їхні відповіді.

Через два дні представник TikTok повідомив BBC, що компанія “видалила контент і заборонила акаунти, які порушують наші правила”.

За кілька днів 20 акаунтів були позначені як “заблоковані” у додатку.

“TikTok забороняє створення AI-генерованого контенту з використанням зображень осіб без їхньої згоди, у нас нульова толерантність до контенту, що пропагує сексуальні послуги поза платформою,” — сказав представник.

Компанія заявила, що забороняє та видаляє шкідливий або оманливий AI-генерований контент і вимагає від користувачів позначати реалістичний AI-контент. Вона також застосувала правильне маркування до кількох відео.

Meta повідомила, що проводить розслідування щодо виявленого контенту.

Вона хоче, щоб користувачі знали, коли вони дивляться пости, створені за допомогою AI, і має політики щодо маркування AI-генерованого контенту. Дев’ять акаунтів в Instagram, які відслідковував BBC, більше не існують.

Жодна з платформ не надала деталей щодо своєї реакції на початкові повідомлення Рії.

TikTok

Штучний інтелект

Чорні жінки

Instagram

Чорні інтереси