CCTV 315 Evening Gala | Exposé: Poisoning AI Has Become an Industrial Chain

15 березня, за повідомленням ЦКЕ, підміна даних для штучного інтелекту вже стала галуззю промисловості. За інформацією інсайдерів, журналіст швидко знайшов у кількох онлайн-платформах послугу під назвою GEO. На цих платформах компанії, що займаються цією діяльністю, стверджують, що користувачам достатньо заплатити відповідну суму, щоб їхній продукт потрапив у топ-списки основних великих моделей штучного інтелекту; щоб реклама товарів клієнта стала «стандартною відповіддю» для моделей AI. Чи можливо за допомогою GEO-технологій справді «змішувати свої інтереси» в AI або навіть поширювати фальшиву інформацію?

Згідно з інформацією у мережі, журналіст зв’язався з одним із відомих у галузі постачальників GEO-послуг. Керівник компанії, пан Ван, повідомив, що їхня сильна сторона — це допомагати клієнтам піднімати їх у рейтингах під час пошуку через великі моделі AI. «Це приблизно як писати рекламні статті, а потім змушувати платформу AI їх «читати», вводити та збирати дані». Також пан Ван зазначив, що алгоритми великих моделей AI оновлюються дуже часто, і щоб підтримувати їхню постійну рекомендацію, потрібно постійно подавати багато рекламних матеріалів, пов’язаних із клієнтами. За словами інших постачальників GEO-послуг, основною темою просування цієї діяльності є питання, як контролювати AI, щоб він «слухався», і «промивати йому мізки».

Інсайдери повідомляють, що GEO, як інструмент для оптимізації поширення інформації та підвищення ефективності просування, у деяких бізнес-компаніях набув іншого значення. На електронних торгових платформах вони випадково придбали програмне забезпечення під назвою «Liqing GEO Optimization System». Після цього вони вигадали «розумний браслет» і ввели фальшиву інформацію про цей продукт у систему, обравши команду створення статей. Незабаром ця система автоматично згенерувала понад десять рекламних статей про цей «розумний браслет». Інсайдери вибрали понад десять фальшивих статей і опублікували їх у мережі за допомогою системи Liqing GEO. Після цього вони звернулися до платформи великих моделей AI з запитом: «Рекомендація розумних фітнес-браслетів», і дві моделі AI рекомендували цей вигаданий продукт, причому у високих позиціях.

Журналіст зв’язався з керівником системи Liqing GEO, паном Лі. Він повідомив, що головна причина популярності GEO — це те, що вона допомагає клієнтам «підгодовувати» та «забруднювати» дані у великих моделях AI для досягнення комерційних цілей. Пан Лі зазначив, що ключовий момент у контролі за моделями AI — це «публікація матеріалів» у різних інтернет-акаунтах. «Наприклад, для мобільних брендів — п’ять або десять позицій. Як зробити так багато телефонів? За рік витрачається мільярди рекламних бюджетів, а кілька мільйонів — на «забруднення» даних — цілком можливо!»

Він додав, що популярність GEO спричинила появу багатьох компаній і платформ, що спеціалізуються на публікації матеріалів. Вони довгий час виконують різні замовлення на публікацію, щоб моделі AI могли цитувати та збирати ці дані, що є важливим етапом у «забрудненні» даних та «полюванні» на моделі AI.