AI 检测公司 GPTZero 揭露四大会计师事务所安永(EY)加拿大分部的一份 44 页信息安全报告,27 条引用中有 16 条为 AI 幻觉(捏造或失效),整份报告约 72% 为 AI 生成文字。
(前情提要:密苏里州正式起诉 CoinFlip:加密 ATM 变成诈骗洗钱工具,最高求偿 182.6 万美元)
(背景补充:加拿大拟立法禁加密 ATM:4,000 台机器、G7 首例,FINTRAC 资料定调政策逻辑)
本文目录
Toggle
两个自打脸的 2,000 亿
当大型语言模型取代 Google Scholar
数据投毒:AI 搜索工具的新型系统性风险
AI 监测公司 GPTZero 于 5 月中公开调查,发现安永加拿大(EY Canada)在 2025 年底发布的《Points of Attack:Uncovering Cyber Threats and Fraud in Loyalty Systems》,一份以会员忠诚点数系统信息安全为主题的 44 页白皮书有重大瑕疵。
资料投毒正在蔓延》安永会计师事务所 44 页资安报告被踢爆:27 条引用中 16 条是 AI 捏造
AI 检测公司 GPTZero 揭露四大会计师事务所安永(EY)加拿大分部的一份 44 页信息安全报告,27 条引用中有 16 条为 AI 幻觉(捏造或失效),整份报告约 72% 为 AI 生成文字。
(前情提要:密苏里州正式起诉 CoinFlip:加密 ATM 变成诈骗洗钱工具,最高求偿 182.6 万美元)
(背景补充:加拿大拟立法禁加密 ATM:4,000 台机器、G7 首例,FINTRAC 资料定调政策逻辑)
本文目录
Toggle
AI 监测公司 GPTZero 于 5 月中公开调查,发现安永加拿大(EY Canada)在 2025 年底发布的《Points of Attack:Uncovering Cyber Threats and Fraud in Loyalty Systems》,一份以会员忠诚点数系统信息安全为主题的 44 页白皮书有重大瑕疵。
GPTZero 逐条核查 27 条引用,发现其中 16 条是幻觉,超过 70%。报告本身没有学术脚注,而是采用内文标注,并在第 41 到 43 页附上一张「资源表」,列出来源标题、描述、URL,部分附出版者与日期。
问题正出在这张表:几乎所有 URL 不是失效就是根本不存在,超过一半的来源标题对不上任何真实出处。整份报告有约 72% 的文字被判定为 AI 生成。
两个自打脸的 2,000 亿
这份报告最直接的问题,是一组数字前后矛盾到几乎不可能是同一个人写的。
执行摘要宣称「全球忠诚点数市场规模达 2,000 亿美元」,同时指出 30 到 50% 的点数从未被使用。报告第 10 页却又说「2,000 亿美元」是「未兑换点数」的总价值。如果 50% 点数未兑换而其价值已等于 2,000 亿,那全球市场规模至少得是 4,000 亿,两个页面的数字彼此矛盾。
更关键的是,这两个数字各自附了一条引用:一条假 Forbes、一条假麦肯锡。
GPTZero 追查「McKinsey & Company: Loyalty Economics Report (2022)」,这份档案根本不存在。往前翻半年,他们在一篇 Financial IT 部落格文里找到几乎一模一样的句子,同样标注这份假麦肯锡报告为来源。
也就是说,有人在低流量部落格捏造了一个学术引用,EY 的报告后来又把它「洗白」成四大事务所的出版品。这就是所谓的引用链污染。
当大型语言模型取代 Google Scholar
GPTZero 工程师为这个现象造了一个词:vibe citing。简单来说就是,研究者或顾问懒得查真实来源,直接让 AI 帮忙生成参考文献,结果产出的是一堆外表像引用、内容却是凭空捏造的假条目。
这是 GPTZero 系列调查的第一弹。他们近几个月建立了自动化 pipeline,系统性扫描大型顾问公司的公开报告,初步结果显示 vibe citing 已是流行病等级,连产业龙头都中招。
数据投毒:AI 搜索工具的新型系统性风险
GPTZero 把这份报告的最大危害称为「数据投毒」。
简单来说就是,把含有假资讯的档案上传到网络,等于往所有人共享的知识池里注入毒素,误导未来的研究者与决策者。EY Canada 每年向加拿大政府提供数百万美元的审计与顾问服务,当发布方是这种级别的机构、档案放在高流量官网,毒素扩散的速度更快、信任损耗更难修复。
这份报告已在澳洲媒体引发涟漪:一篇引用这份报告的《坎培拉时报》报道,被转载至澳洲 60 多家报纸。
GPTZero 实测显示,Claude、ChatGPT、Perplexity 在被问到「忠诚计划诈骗的平均侦测时间」等问题时,都曾引用这份充满幻觉的 EY 报告。AI「深度研究」工具挑选来源时使用的信号与人类不同,对品牌光环的依赖程度更高,也因此对这类资料投毒更加脆弱。
GPTZero 的幻觉检测工具目前已被 IJCAI、ICLR、ICSE 等顶尖学术会议用来筛查论文投稿。此前,GPTZero 也查过政府档案、两份勤业众信报告,以及 NeurIPS、ICLR 大会的论文。
调查报告发出后,EY Canada 已将这份白皮书从官网下架,并发出声明:「EY Canada 严肃看待我们发布的所有内容的准确性,并对负责任地使用 AI 有全组织的承诺,正在检讨为何会发布这份报告。」
一家以严谨审计立身的全球顶尖事务所,用一份 AI 生成的白皮书,把自己的品牌信用交给了一个连引用都懒得查的语言模型。被三个小团队当众拆穿,才意识到问题的严重性。
这不只是个案,而是整个产业正在发生的事:当「AI 生成」取代「专业判断」,品牌背书本身就成了风险最大的那条引用。