Под прикрытием действовали несколько аккаунтов 14-летних, и все они оказались погружены в порнографию… «Ловля на живца» в США заставила Meta выплатить 2,5 миллиарда юаней｜Обзор Кремниевой долины

| Рубрика «Наблюдение из Кремниевой долины» Чжэн Цзюнь

Следователи создали несколько фальшивых аккаунтов, замаскированных под детей в возрасте до 14 лет. В результате выяснилось, что эти аккаунты в течение крайне короткого времени были буквально затоплены огромным количеством порнографического контента и получали многочисленные сообщения сексуального заигрывания от взрослых…

Всего за два дня Цукерберг проиграл две ключевые судебные тяжбы подряд.

Это эпохальное решение: впервые медиагиганта соцсетей обязали нести ответственность за психическое здоровье пользователей; а после проигрыша этого показательного иска Meta, возможно, столкнется с аналогичными исками по всей территории США и даже в глобальном масштабе — «зонтик», при котором интернет-гигантам не приходится отвечать, уже скоро закончится.

Гигант проиграл знаковый процесс

В прошлую среду присяжные в Высшем суде Лос-Анджелеса (округ Лос-Анджелес, штат Калифорния) вынесли решение: Meta и YouTube, входящий в состав Google, несут юридическую ответственность за ущерб психическому здоровью одной молодой женщины и должны в пропорции 70/30 выплатить ей в общей сложности 6 миллионов долларов (около 41,43 млн юаней). Это первый в истории США случай, когда присяжные признали, что социальная сеть должна нести ответственность за психическое здоровье пользователей.

Главная истца по делу — калифорнийская женщина, обозначенная в судебных документах как «KGM» или «Кейли (Kaley)». Ей сейчас 20 лет; в исковом заявлении она утверждает, что начала пользоваться YouTube с 6 лет, а Instagram — с 11. После долгого погружения в эти две платформы у нее развилась тяжелая зависимость, что, по ее словам, привело к депрессии, расстройству искажения телесного образа и мыслям о самоубийстве.

Ее мать заявляет, что Кейли иногда использовала Instagram по несколько часов в день; имеются записи, что в течение одного дня она проводила в приложении более 16 часов — и это при том, что мать неоднократно пыталась ограничить ее использование Instagram.

Важно добавить следующее: изначально она одновременно подала в суд на четырех медиагигантов соцсетей. Но прямо накануне начала разбирательства TikTok и Snapchat выбрали урегулирование с ней, выйдя тем самым из процесса; сумма компенсации не была объявлена. А Meta и YouTube (в составе Google) отказались заключать мировое соглашение и решили продолжить процесс с ее стороны.

Платформы знали о рисках, но игнорировали их

Присяжным понадобилось девять дней и в общей сложности более 44 часов интенсивного обсуждения; в итоге они вынесли решения в пользу истца по всем семи пунктам обвинения. Присяжные признали: у Meta и YouTube на уровне проектирования и эксплуатации платформ были допущены упущения (небрежность), которые стали «существенным фактором», приведшим к вреду Кейли; при этом обе компании, зная о том, что платформа может оказывать негативное влияние на несовершеннолетних, не выполнили достаточные обязанности по предупреждению.

Самая шокирующая часть этого судебного разбирательства — то, что адвокат истца обнародовал внутренние исследовательские документы Meta и Google. Эти материалы показывают, что исследовательские команды обеих компаний давно знали о негативном влиянии их продуктов на психическое здоровье подростков, но эти результаты были преданы забвению.

В суде выступили с показаниями несколько специалистов, которые ранее проводили Кейли психологическую терапию. Одна из терапевтов — Виктория Бёрк (Victoria Burke) — заявила, что использование соцсетей «тесно связано» с тем, как Кейли воспринимает себя; а интерактивные активности на платформе даже способны «влиять на колебания ее настроения». Это напрямую противоречит заявлениям Meta о том, что «ни один психолог не признал соцсети причиной болезни».

Представленная в суде цепочка доказательств свидетельствует: дизайн продуктов Instagram и YouTube — включая персонализированные рекомендательные алгоритмы на основе поведенческих данных, механизмы уведомлений, создающих ощущение постоянного вознаграждения, и бесконечную прокрутку, устраняющую сопротивление остановке, — не был случайностью, а представлял собой тщательно продуманную систему, направленную на максимизацию времени пребывания пользователей.

Кроме того, присяжные также признали, что действия двух компаний образуют «злонамеренность, принуждение или мошенничество», поэтому в дополнение к 3 млн долларов компенсационных выплат они добавили еще 3 млн долларов штрафных (карательных) выплат.

По долям ответственности присяжные постановили: Meta несет 70% ответственности, YouTube — 30%. Такое распределение объясняется тем, что присяжные сочли основные причины связанными с алгоритмическими рекомендациями Instagram, бесконечной прокруткой и постоянными уведомлениями. А адвокаты защиты YouTube настаивали, что по своей сути их платформа — это видеостриминг, а не социальные сети, и она ближе к телевидению, чем к Instagram.

Цукерберга заставили лично выйти в суд

Судебное разбирательство длилось семь недель: и основатель Meta Марк Цукерберг (Mark Zuckerberg), и руководитель Instagram Адам Моссери (Adam Mosseri) лично прибыли в суд и дали показания.

Это крайне редкая практика в технологической индустрии, и тем более — это первый раз, когда Цукерберг свидетельствует в суде по поводу собственного продукта.

В зале было почти полностью заполнено — десятки родителей приехали из разных уголков страны, чтобы присутствовать на слушаниях; некоторые родители даже заночевали на ступенях суда, лишь бы гарантировать себе место в зале. Сама истца Кейли также сидела среди слушателей и своими глазами видела происходящее.

У входа в Высший суд Лос-Анджелеса также собрались десятки родителей: держась за руки, они следили и ждали за своими детьми, которые ушли из жизни или получили травмы. Два родителя, с которыми удалось поговорить СМИ, рассказали о своих трагедиях: Джулианна Арнольд (Julianna Arnold) сообщила, что ее дочь, как утверждается, умерла после покупки фентанила в Instagram; а сын Джоанн Богард (Joann Bogard) повторил действия, пытаясь имитировать смертельные последствия после того, как на YouTube увидел видео «челлендж на удушение».

Адвокат истцов Марк Лэниер (Mark Lanier) сравнил две технологические компании с «львами-охотниками», которые системно хищнически используют ресурсы и технологические преимущества против несовершеннолетних пользователей. Основатель Legal Center for Social Media Victims (Центра правовой помощи жертвам соцсетей) Мэтью Бёргман (Matthew Bergman) заявил, что это судебное разбирательство впервые позволит обществу узнать, «что именно делают компании соцсетей, чтобы ради прибыли приносить в жертву безопасность наших детей».

Это решение по иску имеет большое значение и признано «показательным делом». Иными словами, исход данного дела напрямую повлияет на дальнейшее развитие сотен аналогичных исков по всей стране; сотни семей и школьных округов, пострадавших от подобных вредов, ждут, чтобы продолжать подавать иски против Meta.

Поэтому и Meta, и YouTube заявили о сильном несогласии и объявили о подаче апелляции. В заявлении представитель Meta сказал: «Проблемы психического здоровья подростков крайне сложны и их нельзя списывать на какое-то одно приложение». А представитель Google Хосе Кастанеда (José Castañeda) заявил: «В этом деле YouTube подвергся фундаментальному неверному пониманию — YouTube — это платформа видеостриминга, построенная ответственно, а не социальная сеть».

Ловля преступников на «живца»

За день до решения в Лос-Анджелесе присяжные в Нью-Мексико вынесли вердикт по другому параллельному делу, признав Meta намеренно нарушившей закон штата о защите потребителей: она не обеспечила должную защиту детей-пользователей платформы от преследований со стороны онлайн-хищников и должна выплатить гражданский штраф в размере 75k долларов.

Это победа не только для Нью-Мексико — это первое в США вердикт присяжных, направленный против медиагиганта соцсетей по вопросу безопасности детей. Как определили размер штрафа? По закону за каждое нарушение максимальный штраф составляет 5000 долларов. Присяжные признали, что нарушения Meta затронули 75k несовершеннолетних пользователей. Поэтому присяжные выбрали установленный законом верхний предел наказания: 5000 долларов умножить на 75k, что составляет 375 млн долларов (около 75k юаней).

Генеральный прокурор Нью-Мексико Рауль Торрес (Raúl Torrez) является инициатором этого судебного дела. В поданном иске он обвинял Meta в том, что компания, зная, что ее платформа — особенно Instagram и Facebook — используется злоумышленниками для сексуальной эксплуатации детей, сознательно скрывала соответствующую информацию и отказывалась принять эффективные меры защиты. Присяжные приняли эти доводы и признали, что действия Meta нарушали законодательство Нью-Мексико о недобросовестных коммерческих практиках.

Самое ошеломляющее доказательство в этом деле связано с проведенной Департаментом юстиции Нью-Мексико тайной операцией. Следователи создали несколько фальшивых аккаунтов, замаскированных под детей в возрасте до 14 лет. В результате выяснилось, что эти аккаунты в течение крайне короткого времени были буквально затоплены огромным количеством порнографического контента и получали многочисленные сообщения сексуального заигрывания от взрослых.

Эти доказательства напрямую опровергают так называемую «алгоритмическую безопасностную фильтрацию» Meta. Параллельно полиция также задержала нескольких подозреваемых, которые пытались лично встретиться с «несовершеннолетними» онлайн; трое из них в назначенное время прибыли в согласованный автокемпинг (мотель) и намеревались вступить в отношения.

Ключевое основание для судебного решения — внутренние документы Meta. В материалах говорится, что высшее руководство компании (включая Цукерберга и Моссери) давно знало, что их алгоритмы могут соединять хищников с несовершеннолетними, но ради поддержания высоких показателей дневной активной аудитории и прибыли отказалось внедрять эффективную проверку возраста и меры безопасности.

В отличие от дела в Лос-Анджелесе, где акцент был на дефектах дизайна продукта, в Нью-Мексико суть дела сводится к мошенничеству и сокрытию. Оба дела, рассматривая вопрос с разных сторон, ведут к одному и тому же выводу: социальные медиаплатформы системно ставят коммерческую выгоду выше безопасности несовершеннолетних пользователей.

Следует также отметить, что дело еще не полностью завершено. В этом году, 4 мая, Нью-Мексико начнет вторую стадию по этому делу — «Bench Trial» (судебное разбирательство без присяжных). Тогда Генеральный прокурор попросит судью определить, образуют ли действия Meta «общественное безобразие (общественные беспорядки)», что может вынудить Meta изменить алгоритмы платформы и выплатить дополнительные компенсации за причиненный вред.

Разрушить «зонтик» по статье 230

Чтобы понять историческое значение этих двух вердиктов, сначала нужно прояснить ключевой правовой контекст: статья 230 Закона 1996 года «О соблюдении норм телекоммуникаций» (Communications Decency Act). Эта норма долгое время являлась для технологических компаний одним из самых важных правовых щитов, предоставляя интернет-площадкам освобождение от ответственности за контент, публикуемый пользователями.

В течение многих лет иски американских пользователей к социальным медиа-платформам в большинстве случаев отклонялись судами благодаря защите по статье 230. Однако адвокаты истцов в деле в Лос-Анджелесе выбрали совершенно иную правовую стратегию — они сместили фокус тяжбы с контента платформы на сам дизайн продукта.

Бесконечная прокрутка, алгоритмические рекомендации и постоянная отправка уведомлений в социальных медиаплатформах — по сути это решения по дизайну продукта, а не контент, создаваемый пользователями. Именно этот поворот в стратегии позволил истцам обойти защиту по статье 230 и напрямую привлечь платформу к ответственности за нарушение прав.

Профессор права Нью-Йоркского университета Кэтрин Шарки (Catherine Sharkey) называет это «переопределением эпохи нового времени». Она отмечает, что ключевая проблема здесь в следующем: инженеры платформы знали, как эти дизайны влияют на формирование зависимости, а внутренние исследования платформы также знали о рисках, с которыми сталкиваются подростковые пользователи; эти асимметричные сведения дают суду основания для того, чтобы привлечь платформу к ответственности.

Дело в Лос-Анджелесе также является «ведущим делом» в рамках процедур судебной координации штата Калифорния; его решение станет ориентиром для более чем 1600 аналогичных исков по всему штату, включая судебные процессы, поданные более чем 350 семьями и 250 школьными округами. Meta проиграла этот процесс, а это значит, что в будущем бесконечные бесчисленные иски также будут оказываться в проигрышной позиции.

Кроме того, ожидается, что еще одно федеральное коллективное судебное разбирательство начнется этим летом в Северном округе Калифорнии; тогда на скамье ответчиков будут TikTok и Snap. Оценка адвоката из Сан-Франциско Джессики Нэлл (Jessica Nall) звучит еще прямолинейнее: «Ворота уже открыты».

По миру поднимают тревогу из-за интернет-зависимости несовершеннолетних

Риски, связанные с тем, что несовершеннолетние чрезмерно увлекаются социальными сетями, стали глобальной проблемой. За последние два года научное сообщество, органы власти и судебные инстанции в разных странах уже поднимали тревогу по этому поводу с нескольких сторон и начали практически синхронно применять соответствующие меры регулирования.

В 2023 году, в США, Главный санитарный врач Вивек Мурти (Vivek Murthy) сделал редкий призыв: рекомендовать в обязательном порядке размещать на продуктах соцсетей предупреждения о вреде для здоровья, приравнивая такие предупреждения к предупреждениям на табачных изделиях. В своем отчете он сослался на множество исследований, указывающих на наличие значимой связи между использованием соцсетей и подростковой депрессией, тревожностью, нарушениями сна и суицидальными намерениями.

Психолог Джонатан Хайдт (Jonathan Haidt) в бестселлере «Поколение тревоги» (The Anxious Generation) еще более прямо связывает массовое распространение смартфонов, начавшееся в 2012 году, с последующим всплеском кризиса психического здоровья подростков, что вызвало сильный резонанс в обществе.

На уровне законодательства Австралия идет впереди планеты всей. В ноябре 2024 года парламент Австралии принял закон «Поправка по кибербезопасности (минимальный возраст для социальных сетей)» и 10 декабря 2025 года официально вводит его в действие.

Этот первый в мире национальный запрет на соцсети для несовершеннолетних устанавливает: основные платформы, включая Instagram, YouTube, TikTok, Facebook, X, Snapchat и Reddit, должны принимать разумные меры, чтобы помешать пользователям младше 16 лет создавать аккаунты. Платформы-нарушители будут сталкиваться с максимальными штрафами примерно в 33 млн долларов.

Австралийское законодательство напрямую опирается на одно письмо: мать из Сиднея написала премьер-министру Албанезе (Albanese), рассказав историю о том, как ее 12-летняя дочь Шарлотт покончила с собой после травли в соцсетях. Это письмо задело законодателей и подогрело общественное мнение.

В Европе Франция установила правило: несовершеннолетние младше 15 лет не могут пользоваться соцсетями без согласия родителей; Дания планирует провести линию запрета по возрасту на уровне 15 лет; а британские регуляторы оценивают варианты возрастных ограничений или ограничения максимального времени использования в день.

В США тем временем законодатели в отдельных штатах также заметно ускорили шаги. Во Флориде уже принят закон, запрещающий несовершеннолетним до 14 лет пользоваться соцсетями; для возраста 14–15 требуется согласие родителей. В Теннесси и Миссисипи с 2025 года требуется, чтобы пользователи младше 18 лет проходили проверку возраста и получали разрешение родителей; в Вирджинии установлено, что без согласия родителей несовершеннолетним нельзя пользоваться соцсетями более одного часа в день; аналогичные нормы в Калифорнии и Миннесоте начнут действовать с 2026 по 2027 год.

На федеральном уровне в США обстановка с регулированием остается неопределенной. С момента вступления в должность администрация Трампа активно поддерживает технологический сектор, и регуляторная тенденция явно смещена в сторону свободы рынка. Предлагаемый закон «О кибербезопасности детей» хотя и прошел Сенат, но оказался в тупике в Палате представителей из‑за серьезных разногласий между двумя партиями.

Только после того, как федеральное законодательство будет официально принято, можно будет окончательно убрать «зонтик» статьи 230 для медиагигантов соцсетей. Социальные медиаплатформы должны отвечать за каждого подростка с интернет-зависимостью.

Огромный поток новостей и точные разъяснения — все в приложении Sina Finance

Ответственный редактор: Сун Яфан