Искусственный интеллект собирается вести войну за Америку, прежде чем он доберется до спальни

Версия этой статьи изначально появилась в новостной рассылке Quartz по ИИ и технологиям. Подпишитесь здесь, чтобы получать последние новости, анализ и идеи по ИИ и технологиям прямо на ваш электронный адрес.

Америка отдала ИИ Пентагону, прежде чем отдала его спальне.

В начале этого года OpenAI подписала соглашение о поддержке военных операций всего через несколько дней после того, как Министерство обороны прекратило партнерство с конкурентом Anthropic. Тем временем “взрослый режим” компании для ChatGPT, который позволил бы проводить сексуально откровенные беседы для согласных взрослых, по-прежнему задерживается.

Собственный консультативный совет OpenAI по вопросам благополучия восстал в январе, предупреждая, что эта функция может способствовать нездоровой эмоциональной зависимости. Несовершеннолетние могут найти обходные пути, сказали они, в инструментах проверки возраста, которые, по сообщениям, неверно классифицировали пользователей младше 18 лет.

Внутренние документы показали, что сотрудники отметили риски, включая компульсивное использование и эскалацию к более экстремальному контенту. Задержка была отчасти технической. Но Америка всегда была более комфортной с тем, чтобы ее машины велись к войне, чем к любви.

Рынок слишком велик, чтобы его игнорировать

Секс построил потребительский интернет. Он способствовал принятию веба, онлайн-платежей, потокового видео. ИИ — самая дорогая технология, которую отрасль когда-либо пыталась масштабировать, и в данный момент OpenAI наблюдает, как более мелкие компании собирают эти деньги, пока она сидит в стороне. Тревога реальна, но математика тоже.

Почти треть молодых мужчин говорит, что общалась с ИИ-романтическим партнером. Более 100 платформ теперь предлагают услуги ИИ-компаньонов, варьирующиеся от относительно сдержанных до откровенно сексуальных.

Grok Илона Маска уже имеет режим компаньона с взрослым уровнем. Meta $META -3.77% позволила своим чат-ботам заниматься романтической ролевой игрой с 2023 года, тихо ослабив ограничения, которые руководители продвигали, несмотря на внутренние возражения по безопасности.

Сэм Альтман публично признал в прошлом году, что разрешение на откровенный контент, вероятно, увеличит рост и доход. Что он также сказал, в том же духе, так это то, что это не будет служить долгосрочным интересам пользователей.

Пока у нас есть анекдоты. Мужчина в Огайо говорит, что его ИИ-компаньон спас его брак. Женщина, которая считает себя замужем за своим чат-ботом. Форум на Reddit $RDDT -4.20% с десятками тысяч еженедельных посетителей, делящихся заметками о своих цифровых отношениях. Освещение рассматривает их как диковинки. Цифры предполагают, что они могут быть ранним большинством.

Компании знают, что существует большая, готовая аудитория. Они менее уверены, что могут контролировать то, что будет построено, когда дверь откроется.

Некоторые из того, что уже просочилось, не является серой зоной. Подростки-девочки из Теннесси недавно подали иск против xAI после того, как сгенерированные ИИ обнаженные изображения были распространены в интернете без их ведома и использованы для бартерной торговли другим детским сексуальным материалом.

Европейский союз открыл официальное расследование в отношении Grok по аналогичным причинам ранее в этом году. Исследователи подсчитали, что Grok сгенерировал миллионы сексуализированных изображений менее чем за две недели, тысячи из которых изображали детей.

Эти случаи на самом деле не касаются взрослого контента. Материалы о сексуальном насилии в отношении детей — это преступление. Более сложный, неясный вопрос заключается в том, что происходит, когда согласные взрослые хотят использовать эти инструменты так, как они использовали каждую технологию до них.

Более комфортно с бомбами

Разрыв между тем, как Америка относится к цифровому сексу и цифровому насилию, всегда был широк.

Фильм может показать, как череп человека разлетается на куски, и получить рейтинг R. Взгляд на сосок вызывает слушание в Конгрессе. Эта же логика мигрировала в политику ИИ по умолчанию, а не по замыслу.

Военные приложения ИИ сталкиваются с реальной этической критикой, но не с тем же фоновым смущением. В 2018 году сотрудники Google $GOOGL -1.65% устроили восстание против контракта Пентагона по компьютерному зрению под названием Project Maven, заставив компанию отказаться от него. Когда OpenAI подписала свой собственный контракт с Пентагоном в этом году, такого восстания не произошло. Сотрудники, которые угрожали уйти, были в консультативном совете, и они были недовольны “грязными разговорами”.

Частично ответ структурный. ИИ-компании создали свои первоначальные политики контента в момент, когда избегание противоречий означало избегание секса, и эти настройки окостенели.

Частично это связано с устоявшимся американским инстинктом, что секс по своей сути опасен и должен быть строго контролируем, в то время как насилие, особенно официальное насилие, просто является ценой ведения бизнеса.

Доказательства о ИИ-компаньонах неоднозначны. Исследователи задокументировали реальную терапевтическую ценность в отношениях с чат-ботами, особенно для людей, испытывающих одиночество, горе или инвалидность. Они также задокументировали радикализацию, заблуждение и трагедию.

Честный ответ заключается в том, что никто еще не знает, что долгосрочное воздействие ИИ-интимности делает с людьми.

Тем временем инструменты не сидят без дела. Технология ИИ, которая не может говорить грязно с согласным взрослым в Огайо, используется американскими военными за границей. Никто не ждет этого.

📬 Подпишитесь на ежедневный обзор

Наш бесплатный, быстрый и интересный обзор глобальной экономики, который выходит каждое утро в будние дни.

Запишите меня