Загроза підміни даних поширюється» Універсальна аудиторська фірма EY викрила 44-сторінковий звіт з інформаційної безпеки: з 27 цитат 16 були сфальсифіковані штучним інтелектом

AI виявлення компанії GPTZero викрив чотири великі аудиторські фірми: канадський відділ Ernst & Young (EY) опублікував 44-сторінковий звіт з безпеки інформації, у якому 27 цитат містили AI-галюцинації (вигадані або недійсні), а понад 70% тексту було згенеровано штучним інтелектом.
(Передісторія: штат Міссурі офіційно пред’явив позов CoinFlip: крипто-АТМ став інструментом шахрайства та відмивання грошей, максимальна сума компенсації — 1,826 мільйонів доларів США)
(Додатковий фон: Канада готує законопроект заборони крипто-АТМ: 4000 пристроїв, перший у G7, дані FINTRAC визначають політику логіки)

Зміст статті

Переключити

• Два самоприниження на 200 мільярдів
• Коли великі мовні моделі замінять Google Scholar
• Зміщення даних: новий системний ризик AI-пошукових інструментів

Компанія GPTZero, що займається моніторингом AI, опублікувала в середині травня дослідження, у якому виявила, що EY Canada у 2025 році випустила 44-сторінковий білий документ під назвою «Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems», присвячений безпеці систем лояльності, з серйозними недоліками.

GPTZero поетапно перевірила 27 цитат і виявила, що 16 з них — галюцинації, понад 70%. Сам звіт не має академічних сносків, а використовує внутрішні позначки, а на сторінках 41-43 додано «таблицю ресурсів» із назвами джерел, описами, URL-адресами, частково з видавцями та датами.

Проблема саме у цій таблиці: майже всі URL або недійсні, або взагалі не існують, понад половина назв джерел не відповідають жодним реальним джерелам. Весь звіт містить приблизно 72% тексту, визначеного як згенерований AI.

Два самоприниження на 200 мільярдів

Найбільша проблема цього звіту — суперечливі цифри, які майже не можуть бути написані одним і тим самим автором.

У короткому викладі стверджується, що «глобальний ринок систем лояльності оцінюється у 200 мільярдів доларів», при цьому зазначається, що 30-50% балів ніколи не використовувалися. На сторінці 10 звіту йдеться, що «200 мільярдів доларів» — це «загальна вартість невикористаних балів». Якщо 50% балів не використані, і їхня вартість вже дорівнює 200 мільярдам, то глобальний ринок має бути щонайменше 400 мільярдів, тобто цифри на двох сторінках суперечать одна одній.

Ще важливіше, що обидві цифри мають посилання: одне — фальшивий Forbes, інше — фальшивий McKinsey.

GPTZero досліджувала «McKinsey & Company: Loyalty Economics Report (2022)», але цей файл взагалі не існує. За півроку раніше вони знайшли майже ідентичний речення у блозі Financial IT, і теж позначили цей фальшивий звіт McKinsey як джерело.

Іншими словами, хтось спочатку створив фальшиве академічне посилання на низько трафік-блог, а потім EY «відмилила» його, зробивши публікацією від однієї з великих аудиторських фірм. Це так званий «зараження ланцюжка цитувань».

Коли великі мовні моделі замінять Google Scholar

Інженери GPTZero придумали для цього явища термін: vibe citing. Простими словами, дослідники або консультанти лінуються перевіряти джерела і просто дозволяють AI генерувати посилання, які виглядають як цитати, але насправді є вигаданими.

Це перша хвиля досліджень GPTZero. За останні місяці вони створили автоматизований pipeline, що систематично сканує публічні звіти великих консалтингових компаній, і попередні результати показують, що vibe citing вже стала епідемією, і навіть лідери галузі не застраховані.

Зміщення даних: новий системний ризик AI-пошукових інструментів

GPTZero назвала найбільшу загрозу цього звіту «зараженням даних».

Простими словами, це — завантаження у мережу файлів з неправдивою інформацією, що фактично вводить отруту у спільний знаньовий пул, і може спотворити майбутні дослідження та рішення. EY Canada щороку надає канадському уряду аудиторські та консалтингові послуги на сотні мільйонів доларів, і коли такі документи публікує така організація, а вони розміщені на популярних сайтах, поширення отрути відбувається швидше, а довіра — важче відновити.

Цей звіт уже викликав хвилю у австралійських ЗМІ: стаття, що цитує його у «Канберра Таймс», була перепощена більш ніж у 60 австралійських газетах.

GPTZero показала, що Claude, ChatGPT, Perplexity при запитах про «середній час виявлення шахрайства у програмах лояльності» посилалися на цей сповнений галюцинацій звіт EY. Інструменти глибокого дослідження AI використовують індикатори, що відрізняються від людських, і більш залежні від брендової репутації, тому більш вразливі до таких зловживань.

Інструменти виявлення галюцинацій GPTZero вже використовуються у топових конференціях IJCAI, ICLR, ICSE для відбору статей. Раніше GPTZero також перевіряла урядові файли, два звіти компанії Deloitte, а також роботи конференцій NeurIPS і ICLR.

Після розголосу EY Canada зняла цей звіт з офіційного сайту і заявила: «EY Canada серйозно ставиться до точності всього нашого контенту і має колективну відповідальність за відповідальне використання AI. Ми переглядаємо причини публікації цього звіту».

Глобальна аудиторська фірма, що славиться своєю строгою репутацією, довірила свій бренд білому документу, згенерованому AI, і тепер усвідомила серйозність проблеми, коли її викрили невеликою командою з трьох людей.

Це не лише окремий випадок, а й тенденція у всій галузі: коли «AI-генероване» замінює «професійне судження», довіра до бренду стає найуразливішим елементом у ланцюжку цитувань.