GEO розкритикована за "отруєння", брокери та фонди колективно збентежені: можна це робити чи ні? Як визначити межі?

Що таке історія викриття інциденту з отруєнням AI · GEO?

Фінансове агентство 16 березня повідомляє (журналіст Ван Юлінг): «Ми розглядаємо можливість запуску GEO, але після викриття 315-го, чи можемо ще це робити?» Представник управління активами однієї з брокерських компаній повідомив, що сьогодні вранці компанія вже обговорювала з кількома виробниками питання законності та відповідності GEO.

GEO, тобто Генеративна Оптимізація Енжина (Generative Engine Optimization), дозволяє швидко витягувати ключову інформацію з контенту та при формуванні відповідей пріоритетно цитувати брендований контент. Як стало відомо, вже кілька брокерських та інвестиційних компаній використовують технологію GEO для підвищення видимості та частоти згадок своїх брендів у контенті, створеному AI.

Після викриття «отруйного GEO» на вечірньому шоу 315-го року, у галузі почалася широка дискусія. Чи є легальним звичайне розміщення GEO? Як визначити межу між легальним і незаконним?

Легальна оптимізація чи «отруйний GEO»: де проходить межа?

«Я особисто вважаю, що це звичайна оптимізація, якщо контент не порушує правил — це так само, як і маркетингова стратегія», — сказав керівник відділу онлайн-бізнесу однієї з великих брокерських компаній.

«Якщо мова йде про нормальне розміщення GEO, це схоже на традиційний час пошукової оптимізації — бренд намагається зайняти високі позиції у пошукових результатах через SEO, що є маркетинговим інструментом», — додав представник управління активами.

Як тоді відрізнити нормальну оптимізацію від «отруйного GEO»?

Засновник одного з GEO-виробників повідомив агентству «Фінансове агентство», що викритий «отруйний GEO» — це, по-перше, масове автоматичне створення контенту роботами; по-друге, сама інформація є вигаданою; по-третє, поширення здійснюється через контрольовані акаунти. Він вважає, що фальшива інформація — це ключова межа для визначення законності.

На його думку, легальний GEO має відповідати чотирьом вимогам: «відповідність контенту, даних, каналів та кваліфікаційних документів».

«Якщо за допомогою AI, навчання або підгодовування створюються фальшиві фінансові повідомлення або інша незаконна інформація, це заборонено законом. З точки зору регулювання, вимоги до контролю посилюються, і процес виявлення порушень ускладнюється. Потрібно постійно оновлювати методи регулювання», — зазначив юрист Ху Цюнь із юридичної фірми «Шанхай Джюченг». Він вважає, що регуляторні органи вже звернули увагу на цю проблему, і законодавство та контрольні заходи швидко розвиватимуться.

Юрист з публічних зв’язків зазначив, що основні проблеми з GEO сьогодні — це: по-перше, відсутність маркування «реклама» або «промоція», що порушує право споживачів на інформацію; по-друге, поширення фальшивої реклами через фальшиві звіти, вигаданих експертів і підроблені відгуки, що вводить користувачів в оману; по-третє, підозра у недобросовісній конкуренції — деякі компанії штучно впливають на рекомендації AI, створюючи низькоякісний контент для зниження видимості конкурентів і підвищення власного рейтингу, руйнуючи чесну конкуренцію.

Засновник згаданого GEO-виробника вважає, що корінь проблеми — це слабкість домінування пошукової системи Baidu, через що багато фахівців просто переносять досвід SEO у сферу GEO, але через відсутність ефективного регулювання та стандартів у новій галузі методи стають все більш радикальними.

Він вважає, що ключ до вирішення проблеми — це регулювання великих моделей. «Зараз їх основна увага зосереджена на тренуванні моделей. Коли з’явиться можливість регулювати джерела інформації, галузь поступово встановить порядок. Наприклад, у медичній та юридичній сферах моделі ще не мають відкритого доступу до зовнішніх джерел, і там проблеми виникають рідше».

Які можливі юридичні наслідки «отруйного GEO»?

Якщо дійсно застосовувати «отруйний GEO», які покарання можуть чекати за це?

Юрист з публічних зв’язків зазначив, що учасники, які займаються «отруйним GEO», — це компанії-замовники та PR-компанії, — можуть бути звинувачені у фальшивій рекламі. Відповідно до статті 222 Кримінального кодексу, порушення правил реклами, що спричинило фальшиве просування товарів або послуг, карається штрафом або позбавленням волі до двох років.

Як визначити «серйозність» порушення?

Згідно з пунктом 67 «Стандартів порушень кримінальної відповідальності у справах, підслідних органам поліції» (наказ МВС і прокуратури), порушення, що мають такі ознаки, підлягають кримінальному переслідуванню:

• незаконний дохід понад 100 000 юанів;

• фальшиві рекламні повідомлення про харчові продукти або ліки з доходом понад 30 000 юанів;

• якщо порушення повторюється понад двічі за два роки, або спричинило серйозні наслідки або негативний вплив на суспільство.

Як новий феномен, GEO ще не має прецедентів у кримінальному праві. Однак, за повідомленнями «Китайського судового порталу», суд у Ліньсяні (Хунань) засудив двох осіб за фальшиві відгуки, що вводили споживачів в оману.

Суддя наголосив: «Фальшиві відгуки — це приховане шахрайство, що порушує право споживачів на інформацію та чесну конкуренцію. Це руйнує довіру на ринку, ускладнює чесний бізнес і знижує довіру до компаній, що працюють чесно. Не варто купувати або надавати послуги для підвищення фальшивої репутації».

Під час сесії Всекитайського з’їзду депутатів, міністр юстиції Хе Жунь заявив, що цього року буде прискорено розробку законодавства у сферах штучного інтелекту, нових технологій і міжнародної діяльності, щоб зробити правову базу більш чіткою та ефективною. Законодавство у галузі штучного інтелекту, ймовірно, стане більш детальним і ясним.