Искусственный интеллект собирается вести войну за Америку, прежде чем он доберется до спальни

Одна из версий этой статьи первоначально появилась в AI & Tech-рассылке Quartz. Подпишитесь здесь, чтобы получать последние новости об ИИ и технологиях, анализ и идеи прямо на вашу почту.

Америка дала ИИ Пентагону, прежде чем дала ИИ спальне.

Ранее в этом году OpenAI заключила сделку в поддержку военных операций спустя всего несколько дней после того, как Министерство обороны прекратило партнерство с конкурирующей Anthropic. Тем временем собственный для компании режим «для взрослых» в ChatGPT, который позволил бы сексуально откровенные разговоры для согласных взрослых, остается отложенным.

Собственный консультативный совет OpenAI по вопросам благополучия восстал в январе, предупредив, что эта функция может способствовать нездоровой эмоциональной зависимости. По их словам, несовершеннолетние могли бы найти обходные пути в инструментах проверки возраста, которые, как сообщается, неверно классифицировали пользователей, не достигших совершеннолетия.

Внутренние документы показали, что сотрудники отмечали риски, включая навязчивое использование и эскалацию к более экстремальному контенту. Задержка была отчасти технической. Но Америка всегда была более склонна к тому, чтобы ее машины вели войну, чем чтобы они занимались любовью.

Рынок слишком велик, чтобы его игнорировать

Секс построил потребительский интернет. Он стимулировал внедрение веба, онлайн-платежей, стримингового видео. ИИ — самая дорогая технология, которую индустрия когда-либо пыталась масштабировать, и сейчас OpenAI наблюдает, как более мелкие компании забирают эти деньги, в то время как она остается в стороне. Привычное метание и сомнения — реальность, но реальна и математика.

Почти треть мужчин молодого возраста говорят, что общались с ИИ-романтическим партнером. Сейчас более 100 платформ предлагают сервисы ИИ-компаньонов — от относительно сдержанных до откровенно сексуальных.

У Grok Илона Маска уже есть режим компаньона с «взрослым» тарифом. Meta $META +1.24% позволила своим чат-ботам заниматься романтическими ролевыми играми с 2023 года — тихое ослабление ограничений, которое руководители протолкнули, несмотря на внутренние возражения по вопросам безопасности.

В прошлом году Сэм Альтман публично признал, что разрешение откровенного контента, вероятно, увеличит рост и выручку. Но то, что он сказал также — в той же самой фразе — заключалось в том, что это не будет служить долгосрочным интересам пользователей.

Пока что у нас есть лишь анекдоты. Мужчина из Огайо, который говорит, что его ИИ-компаньон спас его брак. Женщина, которая считает себя замужем за своим чат-ботом. Форум Reddit $RDDT +1.14% с десятками тысяч посетителей в неделю, которые делятся заметками о своих цифровых отношениях. Материал подает это как диковинки. Цифры предполагают, что это может быть раннее большинство.

Компании знают, что существует большая, готовая аудитория. Они менее уверены в том, что смогут удержать то, что будет построено, как только дверь откроется.

То, что уже успело проскользнуть, не относится к серой зоне. Девочки-подростки в Теннесси недавно подали иск против xAI после того, как сгенерированные ИИ откровенно нагие изображения с их изображениями были распространены в интернете без их ведома и использовались для обмена на другой контент, связанный с сексуальным насилием над детьми.

В этом году Европейский союз открыл формальное расследование в отношении Grok по схожим причинам. Исследователи подсчитали, что Grok сгенерировал миллионы сексуализированных изображений менее чем за две недели, причем тысячи из них изображали детей.

Эти случаи вообще-то не про контент для взрослых. Контент, связанный с сексуальным насилием над детьми, — это преступление. Более сложный и туманный вопрос в том, что происходит, когда согласные взрослые хотят использовать эти инструменты так же, как они использовали каждую технологию до них.

Удобнее с бомбами

Разрыв между тем, как Америка относится к цифровому сексу и цифровому насилию, всегда был огромным.

Фильм может показать, как вдребезги разлетается череп мужчины, и при этом получить рейтинг R. Кадр с соском запускает слушания в Конгрессе. Та же логика по умолчанию перекочевала в политику в области ИИ — а не была заложена в дизайн.

Военные применения ИИ проходят реальную этическую проверку, но не сталкиваются с той же повседневной брезгливостью. В 2018 году сотрудники Google $GOOGL +3.42% устроили бунт по поводу контракта Пентагона на компьютерное зрение под названием Project Maven, вынудив компанию уйти. Когда в этом году OpenAI заключила собственную сделку с Пентагоном, подобного восстания не возникло. Сотрудники, которые действительно угрожали уйти, входили в консультативный совет, и их возмущал грязный разговор.

Часть ответа — структурная. ИИ-компании сформировали свои первоначальные политики в отношении контента в момент, когда избегание споров означало избегание секса, и эти установки впоследствии окаменели.

Другая часть — укоренившийся американский инстинкт: секс по своей природе опасен и должен строго контролироваться, тогда как насилие — особенно официальное насилие — это просто цена ведения бизнеса.

Доказательства по ИИ-компаньонам неоднозначны. Исследователи описали реальную терапевтическую ценность отношений с чат-ботами, особенно для людей, которые сталкиваются с одиночеством, горем или инвалидностью. Но они также задокументировали радикализацию, бред и трагедии.

Честный ответ в том, что пока никто не знает, как долгосрочное воздействие ИИ-интимности влияет на людей.

Между тем инструменты не простаивают. Та же технология ИИ, которая не может разговаривать непристойно с согласным взрослым в Огайо, используется американскими военными за рубежом. Никто не ждет, что с этим будет иначе.

📬 Подпишитесь на Daily Brief

Наша бесплатная, быстрая и веселая сводка по мировой экономике, которую мы доставляем каждое утро в будний день.

Подпишите меня