Сенаторы выступают за запрет ИИ-компаньонов для детей, поскольку отрасль сталкивается с расплатой - Brave New Coin

Восход цифрового друга

То, что начиналось как безобидные чаты, превратилось в эмоциональные протезы. Подростки, растущие в разрозненной социальной среде, все чаще обращаются к ИИ-компаньонам для связи, поддержки и даже привязанности. Опросы показывают, что почти три четверти подростков взаимодействовали с ИИ-чат-ботом, и треть из них признаются, что используют их как доверенных лиц или для эмоционального комфорта.

Цифры потрясающие, но не удивительные. Искусственные интеллектуальные компаньоны не являются пассивными машинами для ответов на вопросы — они помнят, сопереживают и симулируют привязанность. Это и привлекает. Разговоры могут казаться подлинными, даже интимными. Для многих молодых пользователей друзья-ИИ менее предвзяты, чем родители или сверстники.

Но по мере того, как эти системы становятся все более похожими на людей, граница между безобидным эскапизмом и эмоциональной манипуляцией быстро размывается.

В декабре Open Ai введет возрастные ограничения и в рамках принципа “обращаться с взрослыми пользователями как со взрослыми” позволит эротические материалы для верифицированных взрослых, Источник: X

Закон, рожденный из трагедии

Закон GUARD — сокращение от “Защита от небезопасного ИИ для прав наших дочерей и сыновей” — является прямым ответом на растущее количество сообщений о том, что несовершеннолетние формируют интенсивные эмоциональные связи с чат-ботами, иногда с трагическими последствиями. Высокопрофильные иски обвинили компании ИИ в небрежности после того, как подростки, обсуждавшие самоубийство с чат-ботами, впоследствии покончили с собой.

Согласно законопроекту, ИИ-системы, которые имитируют дружбу или эмоциональную близость, будут запрещены для лиц младше 18 лет. Чат-боты будут обязаны четко и многократно идентифицировать себя как не человека. И если продукт ИИ, нацеленный на несовершеннолетних, когда-либо создаст сексуальный контент или будет способствовать самоубийству, компания может столкнуться с уголовным преследованием.

Это резкий поворот для отрасли, которая преуспела в “двигаться быстро и ломать вещи”.

Ани, женская спутница Грока, источник: X

Оборонительный маневр крупных технологий

Чувствуя приближение регуляторного удара, компании ИИ спешат навести порядок — или, по крайней мере, создать видимость этого.

OpenAI, чья модель ChatGPT стала де-факто ИИ-терапевтом для миллионов, недавно раскрыла неудобную правду: примерно 1,2 миллиона пользователей каждую неделю обсуждают самоубийство с ее моделями. В ответ компания создала Экспертный совет по благополучию и ИИ, состоящий из психологов, этиков и лидеров некоммерческих организаций. Она также тестирует встроенное обнаружение кризиса, которое может подтолкнуть пользователей к ресурсам психического здоровья в реальном времени.

Но проблема OpenAI носит структурный характер. ChatGPT никогда не был создан для того, чтобы справляться с травмой, однако сейчас он функционирует как первая помощь для миллионов в бедственном положении. Руководство компании настаивает на том, что не хочет быть “терапевтом мира”, но это все равно происходит — потому что существует вакуум, который никто другой не заполняет.

Character.AI, стартап, известный созданием настраиваемых AI-персональностей — от аниме девушек до AI-наставников — предпринял самые радикальные меры на сегодняшний день. Столкнувшись с судебными исками и общественным негодованием, он тихо запретил всем пользователям младше 18 лет и начал вводить более строгую проверку удостоверений. Этот шаг был предпринят после сообщений о том, что несовершеннолетние участвуют в откровенных чатах с персонажами платформы. Character.AI настаивает на том, что это не приложение для знакомств или психического здоровья, но размытые случаи использования говорят об обратном.

Тем временем, Meta пытается справиться со своей проблемой романтики в сфере ИИ. После сообщений о том, что ее «Meta AI» и чат-боты на основе знаменитостей вступали в флиртующие или намекающие переписки с несовершеннолетними пользователями, компания внедрила то, что инсайдеры описывают как «подавитель эмоций» — перенастройка базовой языковой модели, чтобы избежать эмоционально насыщенного языка с молодыми аккаунтами. Также тестируются инструменты «родительского контроля ИИ», позволяющие родителям видеть, когда и как подростки взаимодействуют с чат-ботами компании в Instagram и Messenger.

Гонка за возрастными ограничениями

Все это спровоцировало новый фронт в войнах ИИ: проверка возраста. Закон GUARD заставит компании внедрить надежные системы для проверки возраста пользователей — государственные удостоверения личности, распознавание лиц или инструменты доверенных третьих сторон.

Вот где начинается кошмар конфиденциальности. Критики утверждают, что это может создать новые риски для данных, поскольку несовершеннолетние фактически должны будут загружать данные о своей личности на те же платформы, от которых законодатели пытаются их защитить. Но здесь нет другого выхода — модели ИИ не могут “чувствовать” возраст; они могут только контролировать доступ по удостоверениям.

Некоторые компании в области ИИ исследуют более тонкие подходы, такие как “поведенческое ограничение”, при котором системы делают выводы о возрастных диапазонах на основе разговорных паттернов. Риск? Эти модели могут ошибаться — разумный 12-летний ребенок может быть принят за студента колледжа или наоборот.

Культурный сдвиг, а не просто техническая проблема

Закон GUARD — это больше, чем просто защита детей — это референдум о том, в каком обществе мы хотим жить.

Искусственные компаньоны не появились на пустом месте. Они процветают, потому что мы вырастили поколение, свободно владеющее чувством одиночества — соединенные цифровым образом, но эмоционально истощенные. Если подростки находят смысл в разговорах с алгоритмами, проблема заключается не только в коде; это культура, которая оставила их искать его там.

Да, ИИ нуждается в регулировании. Но запрет на цифровое товарищество без устранения человеческого дефицита внизу — это все равно что запрещать обезболивающие, не решая, почему все испытывают боль.

Грядущий расчет

Закон GUARD, скорее всего, будет принят в той или иной форме — существует двусторонний интерес и моральная паника, стоящие за ним. Однако его воздействие будет ощущаться далеко за пределами безопасности детей. Он определит, каким может быть эмоциональный ИИ в западном мире.

Если Америка займёт жёсткую позицию, компании могут перейти на платформы для взрослых или перенести разработки за границу, где регулирование менее строгое. Европа, тем временем, движется к рамкам «прав человека» для эмоционального ИИ, подчеркивая согласие и прозрачность, а не полное запрещение.

Ясно одно: эра нерегулируемой интимности с ИИ закончилась. Боты становятся слишком человечными, а люди — слишком привязанными. Законодатели просыпаются слишком поздно к истине, которую технологическая индустрия давно поняла — эмоциональный ИИ не является новинкой. Это революция в том, как люди взаимодействуют. А революции, как всегда, становятся запутанными, прежде чем стать цивилизованными.