CCTV 315 Evening Gala | Exposé: Poisoning AI Has Become an Industrial Chain

15 марта, по сообщениям ЦКФР, отравление AI стало индустрией. Согласно инсайдерской информации, журналисты нашли на нескольких онлайн-платформах бизнес под названием GEO. Провайдеры этого сервиса утверждают, что пользователи, заплатив соответствующую сумму, могут вывести свои продукты в топ в крупнейших AI-моделях; сделать так, чтобы реклама товаров клиентов становилась «стандартным ответом» AI-моделей. Можно ли с помощью технологий GEO действительно «подмешивать» что-то в AI или даже распространять ложную информацию?

По информации из сети, журналист связался с одним из известных в отрасли провайдеров GEO. Руководитель компании, господин Ван, сообщил, что их сильная сторона — помогать клиентам занимать высокие позиции при поиске через AI-модели. «Это примерно как писать рекламные статьи и заставлять платформы AI их просматривать, вводить и захватывать». Также господин Ван отметил, что алгоритмы AI-моделей обновляются очень часто, и для поддержания постоянных рекомендаций необходимо постоянно «подкармливать» их релевантной рекламой. Другие компании, занимающиеся GEO, рассказывают, что управление AI, его «послушание» и «промывание мозгов» — это основные темы их продвижения.

Инсайдеры сообщают, что GEO, как инструмент оптимизации распространения информации и повышения эффективности рекламы, в некоторых бизнес-компаниях приобрел иные функции. В интернет-магазине случайно была приобретена программа под названием «Liqing GEO Optimization System». Затем была придумана фиктивная умная браслетная модель, и информация о ней была введена в систему, с выбором команды по созданию статей. Вскоре эта система автоматически сгенерировала более десяти рекламных текстов о фиктивных умных браслетах. Инсайдеры выбрали более десяти таких статей и разместили их в интернете через систему Liqing GEO. После этого, при поиске «рекомендуемые умные браслеты для здоровья», два AI-модели предложили этот фиктивный продукт, занимая высокие позиции.

Журналист связался с оператором системы Liqing GEO, господином Ли. Он рассказал, что популярность GEO обусловлена тем, что она помогает «подкармливать» и «отравлять» AI-модели для достижения коммерческих целей клиентов. По его словам, ключ к управлению AI — это «публикация статей» на различных интернет-аккаунтах. «Например, для мобильных брендов — всего 5 или 10 позиций. Как разместить столько моделей? За год на рекламу тратится миллиарды, а на «отравление» — несколько миллионов — вполне реально!»

Он добавил, что популярность GEO породила множество компаний и платформ, специализирующихся на публикации статей. Они постоянно выполняют заказы по публикации, чтобы AI-модели цитировали и захватывали их, становясь важной частью «отравления» данных и манипуляций AI.