Штучний інтелект починає війну за Америку, перш ніж вона дійде до спальні

Версія цієї статті спочатку вийшла в інформаційному бюлетені Quartz про ШІ та технології. Підпишіться тут, щоб отримувати найсвіжіші новини про ШІ та технології, аналітику й інсайти прямо у свою поштову скриньку.

Америка дала ШІ Пентагону, ще до того як дала ШІ спальні.

На початку цього року OpenAI підписала угоду про підтримку військових операцій через кілька днів після того, як Міністерство оборони припинило партнерство з конкуреном Anthropic. Тим часом компанії досі відкладаєтьcя функція для «повнолітнього режиму» в ChatGPT, яка б дозволяла відверті сексуальні розмови для повнолітніх, що дають згоду.

Власна дорадча рада OpenAI щодо благополуччя повстала в січні, попередивши, що ця функція може сприяти нездоровій емоційній залежності. Неповнолітні, як вони сказали, можуть знаходити обхідні шляхи в інструментах перевірки віку, які нібито неправильно класифікували користувачів, які не досягли повноліття.

Внутрішні документи показали, що співробітники вказували на ризики, зокрема нав’язливе використання та ескалацію до більш крайніх форм контенту. Затримка була частково технічною. Але Америка завжди почувалася комфортніше від того, що її машини ведуть війни, ніж від того, що вони займаються коханням.

Ринок надто великий, щоб його ігнорувати

Секс збудував споживчий інтернет. Він стимулював упровадження вебу, онлайн-платежів, стримінгового відео. ШІ — це найдорожча технологія, яку індустрія коли-небудь намагалася масштабувати, і прямо зараз OpenAI спостерігає, як менші компанії збирають ці гроші, поки сама вона лишається осторонь. Хвилювання — справжні, але справжня й математика.

Понад третина молодих чоловіків каже, що вони спілкувалися з AI-романтичним партнером. Понад 100 платформ уже пропонують сервіси AI-компаньйонів — від відносно стриманих до відверто сексуальних.

У Grok Ілона Маска вже є режим компаньйона з «дорослим» тарифом. Meta $META +1.24% дозволила своїм чатботам займатися романтичним рольовим відтворенням з 2023 року — тихим послабленням обмежень, яке керівники протиснули попри внутрішні заперечення щодо безпеки.

Минулого року Сем Альтман публічно визнав, що дозвіл відвертого контенту, ймовірно, підвищить зростання та прибутки. Але те, що він також сказав — у ту ж саму мить, — це що це не служитиме довгостроковим інтересам користувачів.

Поки що те, що ми маємо, — це анекдоти. Чоловік зі штату Огайо, який каже, що його AI-компаньйон врятував його шлюб. Жінка, яка вважає себе заміжньою за своїм чатботом. Форум Reddit $RDDT +1.14% із десятками тисяч відвідувачів щотижня, які діляться нотатками про свої цифрові стосунки. Матеріали висвітлюють це як курйоз. Цифри натякають, що це може бути рання більшість.

Компанії знають, що є великий, готовий аудиторний попит. Вони менш упевнені, що зможуть стримати те, що буде створено, щойно відчиняться двері.

Деяке з того, що вже прослизнуло, — не сіра зона. У Теннессі підліткові дівчата нещодавно подали позов проти xAI після того, як AI-генеровані оголені зображення з ними були поширені онлайн без їхнього відома й використані для торгівлі іншим матеріалом про сексуальне насильство щодо дітей.

Раніше цього року ЄС відкрив формальне розслідування щодо Grok через подібні занепокоєння. Дослідники порахували, що Grok згенерував мільйони сексуалізованих зображень менш ніж за два тижні, причому тисячі з них зображали дітей.

Ці випадки насправді не стосуються контенту для дорослих. Матеріали про сексуальне насильство щодо дітей — це злочин. Набагато складніше, туманніше питання — що станеться, коли повнолітні, які дають згоду, захочуть використовувати ці інструменти так, як вони використовували будь-які технології до них.

Більш комфортно з бомбами

Різниця між тим, як Америка ставиться до цифрового сексу та цифрового насильства, завжди була значною.

Фільм може показати, як чоловічий череп розлітається на шматки, і отримати рейтинг R. Лише натяк на сосок запускає слухання в Конгресі. Та сама логіка перекочувала в політику щодо ШІ за замовчуванням, а не внаслідок проєктування.

Військові застосування ШІ піддаються реальному етичному контролю, але не такій самій «фоновій» огидливості. У 2018 році співробітники Google $GOOGL +3.42% підняли заколот щодо контракту Пентагону з комп’ютерного бачення під назвою Project Maven, змусивши компанію відійти від цього. Коли цього року OpenAI підписала власну угоду з Пентагоном, нічого подібного не сталося. Співробітники, які справді загрожували піти, були членами дорадчої ради, і їх обурювали розмови «брудними словами».

Частина відповіді — структурна. Компанії зі ШІ створили свої початкові політики контенту в момент, коли уникнення суперечок означало уникнення сексу, і ці замовчування згодом «застигли».

Частково — це стійкий американський інстинкт: секс за своєю природою небезпечний і має бути жорстко керованим, тоді як насильство, особливо офіційне насильство, — це просто ціна ведення бізнесу.

Докази щодо AI-компаньйонів — неоднозначні. Дослідники задокументували реальну терапевтичну цінність у стосунках із чатботами, зокрема для людей, які переживають самотність, горе або інвалідність. Вони також задокументували радикалізацію, марення і трагедії.

Чесна відповідь полягає в тому, що ніхто ще не знає, як довгострокове перебування в інтимності з ШІ вплине на людей.

Тим часом інструменти не простоюють. Ті самі технології ШІ, які не можуть говорити «брудні речі» з повнолітнім, що дає згоду, в Огайо, використовуються американською військовою за кордоном. Ніхто не чекає на цей варіант.

📬 Підпишіться на Daily Brief

Наше безплатне, швидке й цікаве зведення про глобальну економіку — кожного буденного ранку.

Підпишіться мене