В App Store і Google Play заблокували десятки ІІ-додатків для «роздягання» людей - ForkLog: криптовалюти, ІІ, сингулярність, майбутнє

# В App Store і Google Play заблокували десятки ІІ-застосунків для «роздягання» людей

У магазинах додатків Apple і Google представлені десятки nudify-застосунків, які дозволяють фотографувати людей і за допомогою штучного інтелекту створювати їх оголені зображення. Про це повідомили експерти TTP.

Під час перевірки аналітики виявили 55 застосунків у Google Play і 47 в App Store. Вони зв’язалися з представниками корпорацій для видалення сервісів. Apple видалили з магазину 28 nudify-інструментів і попередили розробників про ймовірність видалення їхніх продуктів у разі порушення правил.

Два застосунки згодом відновили після усунення всіх проблем.

Представник Google повідомив, що корпорація призупинила роботу кількох програм. Компанія проводить розслідування після отримання подібних повідомлень.

«Обидві компанії заявляють, що дбають про безпеку користувачів, але вони розміщують у своїх магазинах застосунки, які можуть перетворити безневинне фото жінки на образливе зображення сексуального характеру», — написали експерти TTP у своєму звіті.

Вони виявили застосунки, виконавши пошук за термінами «nudify» і «undress», і протестували їх за допомогою ІІ-зображень. В рамках експерименту проаналізували два типи сервісів:

• ті, що використовували штучний інтелект для рендерингу зображень дівчат без одягу;
• інші накладали обличчя людей на відверті фотографії.

«Цілком очевидно, що це не просто застосунки для “зміни одягу”. Вони явно розроблені для сексуалізації людей без їхньої згоди», — заявила директор TTP Кеті Пол.

Аналітики повідомили, що 14 програм створили у Китаї.

«Закони КНР про збереження даних означають, що уряд має право на доступ до інформації будь-якої компанії в будь-якій точці країни. Тож якщо хтось створив дипфейки з вашим зображенням, тепер вони у руках влади», — додала Пол.

Штучний інтелект у шкоду

Штучний інтелект зробив можливість «роздягання» дівчат і створення дипфейк-порнографії як ніколи простою. У січні чат-бот Grok потрапив у скандал через таку функцію. Згодом компанія відключила генерацію відвертих зображень реальних людей.

У серпні 2024 року офіс міського прокурора Сан-Франциско Девіда Чіу подав позов проти власників 16 найбільших у світі веб-сайтів, що дозволяють «роздягання» жінок і дівчат на фотографіях за допомогою ІІ без їхньої згоди.

У документі йдеться про порушення державних і федеральних законів щодо дипфейк-порнографії, порнографії з помсти та матеріалів, пов’язаних із сексуальним насильством над дітьми.

«Генеративний ІІ має величезні перспективи, але, як і у випадку з усіма новими технологіями, існують непередбачені наслідки і злочинці, які прагнуть використовувати нову технологію у своїх інтересах. Ми повинні чітко розуміти, що це не інновація — це сексуальне насильство», — заявив Чіу.

Згадані у справі сайти пропонують зручні інтерфейси для завантаження фотографій для подальшого створення реалістичних порнографічних версій. Вони майже не відрізняються від справжніх зображень, використовуються для шантажу, залякування, погроз і приниження, йдеться у заяві.

Нагадаємо, у вересні 2024 року Microsoft оголосила про партнерство з організацією StopNCII для боротьби з дипфейк-порнографією у пошуковій системі Bing.