Штучний інтелект починає війну за Америку, перш ніж вона дійде до спальні

Версія цієї статті спочатку з’явилася в інформаційному бюлетені Quartz про ШІ та технології. Підпишіться тут, щоб отримувати найсвіжіші новини про ШІ та технології, аналітику й інсайти прямо на свою електронну пошту.

Америка надала ШІ Пентагону ще до того, як він був доступний у спальні.

На початку цього року OpenAI уклала угоду щодо підтримки військових операцій буквально через кілька днів після того, як Міністерство оборони припинило партнерство з конкурентом Anthropic. Тим часом «дорослий режим» для ChatGPT, який дозволяв би сексуально відверті розмови для дорослих, що дають згоду, залишається відкладеним.

У січні власна дорадча рада OpenAI з питань добробуту повстала проти цієї ідеї, попередивши, що така функція може сприяти нездоровій емоційній залежності. Неповнолітні могли б знаходити обхідні рішення, зокрема через інструменти перевірки віку, які, за повідомленнями, неправильно класифікували користувачів молодше за вісімнадцять років.

Внутрішні документи показали, що співробітники вказували на ризики, зокрема на компульсивне використання та ескалацію до більш екстремального контенту. Затримка була частково технічною. Але Америка завжди була більш комфортною з машинами, що ведуть війну, ніж з тими, що займаються любов’ю.

Ринок, який надто великий, щоб його ігнорувати

Секс створив споживчий інтернет. Він сприяв поширенню вебу, онлайн-платежів, стрімінгового відео. ШІ — це найкоштовніша технологія, яку галузь коли-небудь намагалася масштабувати, і зараз OpenAI спостерігає, як менші компанії збирають ці гроші, поки вона сама залишається осторонь. Турбота і занепокоєння справжні, але й математика — теж.

Майже третина молодих чоловіків стверджує, що спілкувалася з романтичним партнером на базі ШІ. Понад 100 платформ вже пропонують послуги AI-компаньйонів — від досить стриманих до відверто сексуальних.

Grok від Elon Musk уже має режим для дорослих з додатковим рівнем. Meta $META -3.77% дозволила своїм чатботам з 2023 року займатися романтичними рольовими іграми — тихим послабленням обмежень, яке керівники протиснули, незважаючи на внутрішні заперечення щодо безпеки.

Минулого року Сем Альтман публічно визнав, що дозволити відвертий контент імовірно збільшить зростання і доходи. Але він також сказав, що це не буде корисним для довгострокових інтересів користувачів.

Поки що маємо лише анекдоти. Чоловік із Огайо стверджує, що його AI-компаньйон врятував його шлюб. Жінка вважає себе заміжньою за своїм чатботом. Форум Reddit $RDDT -4.20% із десятками тисяч відвідувачів щотижня, які діляться нотатками про свої цифрові стосунки. Їх висвітлюють як цікавинку. Цифри свідчать, що вони, можливо, вже належать до ранньої більшості.

Компанії знають, що існує велика, готова до цього аудиторія. Вони менш впевнені, що зможуть стримати те, що буде створено, коли двері відкриються.

Деякі з уже прослизнули — це не сіра зона. Підлітки-дівчата з Теннессі нещодавно подали позов проти xAI після того, як оголені зображення їхніх тіл, згенеровані ШІ, були поширені онлайн без їхнього відома і використані для обміну матеріалами сексуального насильства над дітьми.

На початку цього року ЄС відкрив офіційне розслідування щодо Grok через подібні питання. Дослідники підрахували, що Grok за менш ніж два тижні згенерував мільйони сексуалізованих зображень, тисячі з яких зображали дітей.

Ці випадки насправді не стосуються дорослого контенту. Матеріали сексуального насильства над дітьми — це злочин. Більш складне і темне питання — що трапляється, коли дорослі, що дають згоду, хочуть використовувати ці інструменти так само, як вони використовували кожну технологію раніше.

Зручніше з бомбами

Різниця між тим, як Америка ставиться до цифрового сексу і цифрового насильства, завжди була значною.

Фільм може показати, як кістки черепа чоловіка розлітаються, і отримати рейтинг R. Показ соска викликає слухання в Конгресі. Та сама логіка перейшла у політику щодо ШІ за замовчуванням, а не за задумом.

Військові застосування ШІ проходять реальну етичну перевірку, але не таку ж «повітряну» бридливість. У 2018 році співробітники Google $GOOGL -1.65% підняли повстання через контракт Пентагону з комп’ютерного зору під назвою Project Maven, змусивши компанію відмовитися. Коли цього року OpenAI підписала свою угоду з Пентагоном, такого повстання не виникло. Співробітники, які погрожували піти, були в дорадчій раді, і їх обурював «брудний» розмовний контент.

Частина відповіді — структурна. Компанії зі ШІ створювали свої перші політики щодо контенту в момент, коли уникнення суперечок означало уникнення сексу, і ці налаштування за замовчуванням «застигли».

Ще одна причина — це стійкий американський інстинкт, що секс — це природно небезпечна сфера, яку потрібно жорстко контролювати, тоді як насильство, особливо офіційне, — це просто ціна ведення бізнесу.

Докази щодо AI-компаньйонів неоднозначні. Дослідники задокументували реальну терапевтичну цінність у стосунках із чатботами, особливо для людей, що переживають самотність, горе або мають інвалідність. Водночас вони зафіксували радикалізацію, марення і трагедії.

Чесна відповідь — ніхто ще не знає, що довгостроковий вплив AI-інтимності робить із людьми.

Тим часом інструменти не простоюють без діла. Та сама технологія ШІ, яка не може вести «брудні» розмови з дорослими в Огайо, використовується американськими військовими за кордоном. Ніхто не чекає на цей випадок.

📬 Підпишіться на Daily Brief

Наша безкоштовна, швидка і цікава щоденна інформаційна довідка про глобальну економіку, що надходить кожного буднього ранку.

Підписатися