Компании социальных сетей борются с «ловушкой проверки возраста», поскольку сбор биометрических данных у детей нарушает права на конфиденциальность

Сканирование лица в Instagram, видео-селфи в TikTok, отпечаток пальца для входа на YouTube и загрузка удостоверения личности в Facebook. Пока это не стало нормой, но сбор биометрических данных для публикации мемов с ИИ скоро станет обычным явлением, поскольку Большое Социальное Общество переживает свой момент, похожий на эпоху табачных компаний.

Рекомендуемое видео

Цифровой ландшафт переживает масштабные перемены на фоне судебных исков против зависимости от соцсетей и спешной регуляторной борьбы за проверку возраста. В то время как платформы социальных сетей сталкиваются с важным юридическим разбирательством по поводу «дофаминовых реакций» и вредных для детей дизайнов, вызывающих зависимость, возникает фундаментальный технический и этический кризис. Такие страны, как Австралия, вводят запреты на соцсети для лиц младше 16 лет, а Meta сейчас проходит суд по обвинениям в преднамеренном создании среды, вызывающей зависимость у детей.

В гонке за проверку возраста пользователя — основного инструмента, который компании используют для борьбы с детской зависимостью — эти платформы раскрывают парадокс, известный как «ловушка проверки возраста». Проще говоря, пытаясь обеспечить соблюдение правил проверки возраста, эти компании подрывают конфиденциальность данных своих пользователей.

Большое Социальное Общество переживает свой момент, похожий на эпоху табачных компаний

Такие компании, как Meta и TikTok, сталкиваются с федеральными и региональными судебными разбирательствами, сравнивающими их платформы и бизнес-модели с табачным и опиоидным рынками, обвиняя их в преднамеренной манипуляции дизайном платформ для повышения зависимости пользователей. Генеральный директор Meta Марк Цукерберг недавно заявил, что научные исследования не доказали связь между соцсетями и вредом для психического здоровья, но эксперты утверждают обратное, говоря, что зависимость от соцсетей обусловлена именно алгоритмами, предназначенными для удержания пользователя онлайн.

«Эти компании не придерживаются определённых стандартов», — говорит доктор Дебра Бёльдт, клинический психолог и специалист по ИИ в семейной соцсети Aura. Бёльдт, которая руководит клиническими исследованиями в Aura — компании, использующей ИИ для мониторинга онлайн-активности детей и защиты приватности взрослых, — отмечает, что дети особенно уязвимы к текущему дизайну соцсетей, поскольку их исполнительные функции и контроль импульсов ещё развиваются.

Для детей соцсети — не просто приложения, а их основной источник социального взаимодействия. Исследования показывают, что один из пяти детей до 13 лет проводит в соцсетях четыре часа или больше в день. Это приводит к повышенному уровню стресса, тревожности и депрессии. Бёльдт говорит, что дети очень сообразительны, и если их заблокировать на одной платформе, они просто переключаются на другую.

«Дети очень сообразительны, и они найдут способ обойти ограничения», — сказала Бёльдт журналу Fortune. «Они знают, как оставаться незаметными.»

Когда компании соцсетей пытаются исключить несовершеннолетних из своих платформ или используют ИИ для поиска цензурируемого контента, им трудно гарантировать точное удаление доступа для лиц определённого возраста. (Бёльдт даже упомянула платформы, такие как Instagram и TikTok, которые следят за языком, и отметила, что дети уже нашли лазейки, используя «PDF-файлы» или «нелюбовь к жизни», создавая новые слова, делающие эти цензоры бесполезными: дети, в конце концов, очень сообразительны.)

Тем не менее, она предостерегает, что ещё хуже ситуация, когда из соцсети блокируют только нескольких пользователей, а не всех. Если платформы едва ли смогут эффективно исключить несовершеннолетних, блокируя доступ только для некоторых, это создаст эффект «острова»: если запрет не универсален, ребёнок, лишённый доступа к соцсетям, будет изолирован, пока его друзья продолжат общаться онлайн.

Регулирование едва успевает за использованием

Забудьте о текущих судебных исках, которые служат тестом для правил дизайна соцсетей: существующие регуляции едва ли успевают за тем, как дети используют соцсети, а инструменты, применяемые компаниями, не обеспечивают безопасность приватности пользователей. В последние месяцы платформы, использующие стороннее программное обеспечение для проверки возраста, сталкивались с утечками данных, вынуждены были объявлять о внедрении и отказе от ИИ-цензоров и борются с негативным общественным мнением всё более недовольной аудитории.

Это усложняется растущими мерами регулирования со стороны стран по всему миру. Австралия приняла в 2024 году важное законодательство, запрещающее лицам младше 16 лет иметь аккаунты на таких платформах, как Facebook, TikTok и YouTube. Внутри страны 32 штата приняли законы о проверке возраста, а ситуация усугубляется внешними факторами: на прошлой неделе Федеральная торговая комиссия США объявила о намерении применить «дискреционное исполнение» правил о защите конфиденциальности детей в интернете (COPPA). Это позволит соцсетям собирать данные о детях без согласия родителей — только для целей проверки возраста.

Однако это не решает парадоксальную проблему: как собирать данные о детях и пользователях, не нарушая их права на приватность. Особенно остро вопрос стоит при анализе пользователей этих платформ.

«Сейчас люди — меньшинство в интернете; мы видели, что трафик ботов к человеку увеличился в 50 раз за год», — говорит Джонни Айерс, генеральный директор Socure, компании, использующей ИИ для проверки личности. Айерс отметил, что благодаря ботам использование deepfake увеличилось почти в 8 000% за год, что делает большинство существующих систем проверки бесполезными. В качестве одного из методов проверки его компании используется использование гироскопа смартфона для определения, действительно ли человек держит телефон при прохождении идентификации.

Эвин МакМуллен, руководитель компании Billions Network, которая занимается противодействием отмыванию денег и проверкой клиентов, говорит, что сбор биометрических данных — один из способов подтверждения личности, потому что их нельзя изменить.

«Это кажется немного дерзким, но идея в том, что вы не можете просто повернуть большие пальцы, чтобы изменить пароль или управлять безопасностью так же легко», — говорит МакМуллен. «Идентичность, основанная на биометрии, — это в первую очередь удобство и безопасность ваших самых важных данных», — добавляет она, отмечая, что текущая модель менеджеров паролей «бесполезна и уже не безопасна».

Но проблемы возникают с детьми и конфиденциальностью, что особенно актуально в свете решения FTC по COPPA.

«Нельзя собирать биометрические данные о ребёнке», — говорит Айерс. «А как тогда проверить, что человеку 13 лет, без сбора каких-либо данных?»

Инструменты больше неэффективны

Один из способов — использовать доказательства с нулевым разглашением (ZKP), которые позволяют одной стороне подтвердить истинность утверждения и, следовательно, личность другого участника, не раскрывая личной информации. МакМуллен, которая работает с клиентами из финансового сектора, выступает за использование ZKP, поскольку они особенно полезны для установления доверия между сторонами.

ZKP — это метод, позволяющий человеку, желающему подтвердить свою личность, отвечать на вопросы так, чтобы установить доверие проверяющей стороне, не раскрывая личных или секретных данных. Например, если нужно доказать, что 4+4=8, человек знает, что это правда, но доверие основано на ответах на дополнительные вопросы: «Является ли сумма 4+4 чётным числом?» и так далее. После серии вопросов проверяющий может определить правдивость утверждений и идентифицировать человека.

Это не распространённый способ подтверждения личности. Пока что соцсети используют различные технологии для проверки возраста: от загрузки удостоверений личности до сканирования лица с помощью ИИ, отслеживания активности пользователя и использования родительских инструментов, таких как «Teen Accounts» в Instagram, чтобы предупредить родителей о вредных привычках.

Главная проблема — отсутствует инструмент, который мог бы подтвердить возраст пользователя без нарушения его приватности. Любая точная модель требует очень инвазивных мер, таких как биометрия или государственные удостоверения, а последние зачастую трудно получить, поскольку около 15 миллионов американцев не имеют документов, что особенно затрагивает чернокожих, латиноамериканцев, иммигрантов и людей с ограниченными возможностями.

Использование ИИ для сканирования лиц мало помогает, поскольку эти модели менее точны для меньшинств и часто ошибочно классифицируют взрослых как несовершеннолетних. Также ИИ не способен отличить синтетический голос или дипфейк от реального человека. Дети, будучи очень сообразительными, часто обходят географические ограничения с помощью VPN, как в Флориде, где использование VPN выросло на 1150% после введения требований по проверке возраста для доступа к Pornhub. И, наконец, существует серьёзный риск безопасности при хранении документов — недавно произошёл взлом стороннего поставщика Discord 5CA, в результате которого было раскрыто более 70 000 государственных удостоверений.

В конечном итоге, «ловушка проверки возраста» — это ситуация, когда регуляторы делают обязательным соблюдение возрастных ограничений и превращают конфиденциальность в опциональную опцию. Пока не появятся такие методы, как ZKP или проверка по устройству, эксперты предупреждают, что цифровая эпоха продолжит погружаться в проблему доказательства личности без нарушения прав на приватность.