Meta призвали усилить контроль за фальшивыми видео с использованием ИИ

8 часов назад

ПоделитьсяСохранить

Кали Хейс, технологический репортер

ПоделитьсяСохранить

Рейтер

Совет наблюдателей Meta заявил, что компания должна делать больше для борьбы с «распространением» фальшивого контента, созданного с помощью инструментов искусственного интеллекта (ИИ) на её платформах.

21-членный Совет наблюдателей выразил обеспокоенность, осудив компанию за то, что она оставила опубликованным видео, созданное ИИ, на котором якобы показаны масштабные разрушения в Хайфе, Израиль, со стороны иранских сил, без соответствующей маркировки.

Он призвал компанию полностью пересмотреть свои правила использования ИИ, предупредив, что рост количества фальшивых видео с ИИ, связанных с глобальными военными конфликтами, «подорвал способность общественности отличать вымысел от факта … рискуя вызвать всеобщий недоверие к любой информации».

Meta заявила, что пометит рассматриваемое видео в течение семи дней.

Meta создала Совет наблюдателей в 2020 году как полусамостоятельную группу, осуществляющую надзор за решениями по модерации контента на своих платформах, таких как Facebook, Instagram и WhatsApp.

Он часто не соглашается с решениями Meta, однако компания продолжает смягчать свою политику по контролю за контентом, что вызывает вопросы о реальной власти совета.

Совет отметил, что обработка компанией видео из Хайфы вызвала вопросы, которые он уже поднимал ранее, касающиеся «неэффективности текущего подхода Meta во время вооружённых конфликтов».

В настоящее время Meta в основном полагается на пользователей, которые должны «самостоятельно сообщать», если их контент создан с помощью ИИ. В противном случае компания ожидает жалоб, после которых команда модерации может решить пометить материал.

Совет заявил, что компания должна более активно маркировать фальшивый ИИ-контент «гораздо чаще».

Он отметил, что текущие методы «недостаточно надежны и всеобъемлющи, чтобы справиться с масштабом и скоростью распространения контента, созданного ИИ, особенно во время кризиса или конфликта, когда активность на платформе возрастает».

Обзор вопроса советом был инициирован после публикации в июне прошлого года видео на Facebook, созданного аккаунтом из Филиппин, который позиционировал себя как новостной источник.

Это было одним из ряда фальшивых видео с ИИ, опубликованных в соцсетях после начала конфликта, содержание которых было либо про-Израильским, либо про-Иранским, и, по данным BBC на тот момент, быстро набрало как минимум 100 миллионов просмотров.

Несмотря на то, что видео было создано ИИ и показывало нереальный контент, а Meta получила несколько жалоб пользователей, компания не пометила его как созданное ИИ и не удалила.

Только после того, как пользователь Facebook обратился напрямую к Совету наблюдателей, и совет взялся за проблему, Meta, по словам совета, начала реагировать.

Затем компания заявила, что видео, которое собрало почти миллион просмотров, не требует маркировки и не должно быть удалено, поскольку оно «не прямо способствует риску немедленного физического вреда».

Совет отметил во вторник, что такой высокий порог для маркировки контента, созданного ИИ, особенно когда речь идет о вооруженном конфликте, слишком высок, и видео следовало бы пометить как «высокорискованный ИИ-контент».

«Meta должна делать больше для борьбы с распространением обманного контента, созданного ИИ, на своих платформах… чтобы пользователи могли отличать реальное от фальшивого», — говорится в заявлении.

В своем заявлении Meta пообещала соблюдать рекомендации совета при следующем столкновении с «идентичным» контентом, который также «находится в том же контексте», что и видео, рассмотренное советом.

Контакты регулятора с Meta по поводу просмотра работниками интимных видео с умными очками на базе ИИ

Обнаружены зарубежные «фабрики контента», создающие политические дипфейки

Зукерберг защищает Meta в историческом судебном процессе по зависимости от соцсетей

Социальные сети

Израиль

Искусственный интеллект

Пропаганда

Meta

Марк Цукерберг

Facebook