Потери Meta в суде могут создать потенциальные проблемы для исследований ИИ и безопасности потребителей

В этой статье

• META

Следите за вашими любимыми акциями СОЗДАТЬ БЕСПЛАТНУЮ УЧЕТНУЮ ЗАПИСЬ

Генеральный директор Meta Марк Цукерберг покидает Федеральный суд в центре Лос-Анджелеса после защиты компании в знаковом судебном процессе по делу о зависимости от социальных сетей в Лос-Анджелесе, США, 19 февраля 2026 года.

Джон Патман | Anadolu | Getty Images

Более десяти лет назад Meta – тогда известная как Facebook – наняла исследователей в области социальных наук с целью проанализировать, как услуги социальной сети влияют на пользователей. Это был способ для компании и ее коллег показать, что они серьезно относятся к пониманию преимуществ и потенциальных рисков своих нововведений.

Но, как иллюстрируют судебные проигрыши Meta на этой неделе, работа исследователей может стать бременем. Брайан Боланд, бывший исполнительный директор Facebook, который давал показания на обоих судебных процессах — одном в Нью-Мексико и другом в Лос-Анджелесе — говорит, что компрометирующие результаты внутреннего исследования и документы Meta, по-видимому, противоречили тому, как компания представляла себя в обществе. Жюри в двух судебных процессах установило, что Meta недостаточно следила за своим сайтом, ставя детей под угрозу.

Компания Марка Цукерберга начала ограничивать свои исследовательские группы несколько лет назад после того, как исследователь Facebook, Франсис Хауген, стал известным информатором. Новые компании, такие как OpenAI и Anthropic, впоследствии активно инвестировали в исследователей и поручили им изучить влияние современного ИИ на пользователей и опубликовать свои результаты.

Теперь, когда ИИ получает чрезмерное внимание за вредные последствия для некоторых пользователей, этим компаниям необходимо задаться вопросом, в их ли наилучших интересах продолжать финансировать исследования или подавлять их.

“Был период времени, когда были созданы внутренние команды, которые могли начать исследовать вещи, и, в течение короткого времени, у вас были абсолютно выдающиеся исследователи, которые смотрели на то, что происходит с этими продуктами, с немного большей свободой, чем я понимаю, что у них есть сегодня”, — сказал Боланд в интервью.

Два поражения Meta на этой неделе были сосредоточены на различных делах, но у них была общая тема: компания не делилась тем, что знала о вреде своих продуктов, с широкой общественностью.

смотрите сейчас

ВИДЕО4:0804:08

Марка Махани из Evercore ISI: Meta все еще интересна для инвестиций

Закрытие торгов: Овертайм

Члены жюри должны были оценить миллионы корпоративных документов, включая электронные письма руководителей, презентации и внутренние исследования, проведенные персоналом Meta. Документы включали внутренние опросы, которые, похоже, показывали тревожный процент подростковых пользователей, получающих нежелательные сексуальные домогательства в Instagram. Также было исследование, которое Meta в конечном итоге остановила, подразумевающее, что люди, которые сократили использование Facebook, стали менее подавленными и тревожными.

Адвокаты истцов в делах не полагались исключительно на внутренние исследования для своих аргументов, но эти исследования помогли укрепить их позиции относительно предполагаемой вины Meta. Защитные команды Meta утверждали, что определенные исследования устарели, вырваны из контекста и вводят в заблуждение, представляя искаженное представление о том, как компания работает и как она относится к безопасности.

‘Обе стороны истории’

“Жюри услышали обе стороны истории и очень справедливую презентацию фактов, и они смогли принять решение на основе того, что увидели”, — сказал Боланд. “И оба жюри, с очень разными делами, вернулись с ясными вердиктами.”

Meta и YouTube компании Google, которые также были ответчиком в судебном процессе в Л.А., заявили, что будут апеллировать.

Лиза Строумэн, психолог и адвокат, которая выступала в качестве внутреннего экспертного консультанта по делу в Нью-Мексико, сказала, что руководители Meta и в технологической индустрии, возможно, думали, что могут использовать внутренние исследования в своих интересах, завоевав благосклонность общественности.

“Я думаю, что они не осознали, что исследователи — это родители и члены семей”, — сказала Строумэн. “И я думаю, что они не поняли, что эти люди не будут куплены.”

Какой бы выигрыш в общественных отношениях ни ожидали руководители, он обернулся против них, когда исследования начали просачиваться в общественность. Самый разрушительный инцидент для Meta произошел в 2021 году, когда Хауген, бывший менеджер по продуктам Facebook, ставший информатором, утекла массив документов, которые предполагали, что компания знала о потенциальном вреде своих продуктов.

Франсис Хауген, бывший сотрудник Facebook, выступает на слушании Комитета по энергетике и коммерции Пода Комитета по связи и технологиям на Капитолийском холме 1 декабря 2021 года в Вашингтоне, округ Колумбия.

Брендан Смаловски | AFP | Getty Images

“Раскрытия Хауген стали значительным поворотным моментом на глобальном уровне — не только для самих компаний, но и для исследователей, политиков и более широкой общественности”, — сказала Кейт Блокер, директор по исследованиям и программам в некоммерческой организации Children and Screens: Institute of Digital Media and Child Development.

Утечки также привели к значительным изменениям в Meta и в технологической индустрии, которая начала избавляться от исследований, которые могли бы рассматриваться как контрпродуктивные для компаний. Многие команды, изучающие предполагаемые вреды и связанные с ними проблемы, были сокращены, как ранее сообщала CNBC.

Некоторые компании также начали удалять определенные инструменты и функции своих услуг, которые использовали исследователи третьих сторон для изучения их платформ.

“Компании могут теперь рассматривать продолжающиеся исследования как бремя, но независимые исследования третьих сторон должны продолжать поддерживаться”, — сказала Блокер.

Большинство внутренних исследований, использованных в судебных процессах на этой неделе, не содержали новых откровений, и многие документы ранее были опубликованы другими информаторами, сказал Саша Хаворт, исполнительный директор Tech Oversight Project. То, что добавили судебные процессы, по словам Хаворта, — это “те самые электронные письма, те самые слова, те самые скриншоты, внутренние маркетинговые презентации, меморандумы”, которые предоставили необходимый контекст.

Поскольку технологическая индустрия теперь активно продвигается в ИИ, такие компании, как Meta, OpenAI и Google, ставят приоритет на продукты над исследованиями и безопасностью. Это вызывает беспокойство у Блокер, которая сказала, что “так же, как и с социальными сетями раньше, существует ограниченная публичная видимость того, что компании ИИ изучают о своих продуктах”.

“Компании ИИ, похоже, в основном изучают сами модели — поведение модели, интерпретируемость модели и согласование — но существует значительный разрыв в исследованиях относительно воздействия чат-ботов и цифровых помощников на развитие детей”, — сказала Блокер. “У компаний ИИ есть шанс не повторять ошибки прошлого — нам срочно необходимо создать системы прозрачности и доступа, которые делятся тем, что эти компании знают о своих платформах с общественностью, и поддерживать дальнейшую независимую оценку.”

СМОТРИТЕ: Регуляторное давление последует после знакового вердикта по социальным сетям.

смотрите сейчас

ВИДЕО4:1604:16

Регуляторное давление последует после знакового вердикта по социальным сетям: Юридический аналитик

Squawk Box Asia

Выберите CNBC в качестве вашего предпочтительного источника в Google и никогда не пропустите момент от самого надежного имени в бизнес-новостях.