Nhiễm độc dữ liệu đang lan rộng》Báo cáo an ninh mạng trang 44 của Ernst & Young bị phát hiện: Trong 27 trích dẫn, 16 câu là do AI bịa đặt

AI Phát Hiện Công Ty GPTZero Phá Vỡ Bốn Công Ty Kiểm Toán Lớn Ernst & Young (EY) Chi Nhánh Canada Báo Cáo An Ninh Thông Tin 44 Trang, Trong 27 Trích Dẫn Có 16 Trích Dẫn Là Ảo (Giả Tạo Hoặc Không Chính Xác), Toàn Báo Cáo Khoảng 72% Là Văn Bản Do AI Tạo Ra.
（Tiền sử: Missouri chính thức kiện CoinFlip: Máy ATM Mã Hóa Là Công Cụ Lừa Đảo Rửa Tiền, Yêu Cầu Bồi Thường Tối Đa 1,826,000 USD）
（Bổ Sung Bối Cảnh: Canada Dự Luật Cấm Máy ATM Mã Hóa: 4,000 Thiết Bị, Là Trường Hợp Đầu Tiên Trong G7, Dữ Liệu FINTRAC Định Hướng Chính Sách）

Mục Lục Bài Viết

Toggle

• Hai Lần Tự Mình Phản Bác 2,000 Tỷ
• Khi Mô Hình Ngôn Ngữ Lớn Thay Thế Google Scholar
• Nhiễu Thông Tin Dữ Liệu: Rủi Ro Hệ Thống Mới Của Công Cụ Tìm Kiếm AI

Công Ty Giám Sát AI GPTZero Công Bố Khảo Sát Giữa Tháng 5, Phát Hiện EY Canada Trong Báo Cáo An Ninh Thông Tin 44 Trang Có Chủ Đề Về An Ninh Thông Tin Hệ Thống Điểm Thưởng Thành Viên, Có Những Sai Sót Nghiêm Trọng.

GPTZero Kiểm Tra Từng Trích Dẫn 27 Đề Mục, Phát Hiện Trong Đó 16 Trích Dẫn Là Ảo, Chiếm Hơn 70%. Báo Cáo Không Có Chú Thích Học Thuật, Thay Vào Đó Là Ghi Chú Trong Nội Dung, Và Đính Kèm Bảng “Nguồn Tài Nguyên” Từ Trang 41 Đến 43, Liệt Kê Tiêu Đề Nguồn, Mô Tả, URL, Một Số Ghi Rõ Nhà Xuất Bản Và Ngày Xuất Bản.

Vấn Đề Chính Ở Chính Bảng Này: Gần Như Tất Cả URL Không Hoạt Động Hoặc Không Tồn Tại, Hơn Một Nửa Tiêu Đề Nguồn Không Phù Hợp Với Bất Kỳ Nguồn Thật Nào. Toàn Báo Cáo Khoảng 72% Văn Bản Được Phân Loại Là Do AI Tạo Ra.

Hai Lần Tự Mình Phản Bác 2,000 Tỷ

Vấn Đề Trực Tiếp Nhất Của Báo Cáo Này Là Một Bộ Số Liệu Mâu Thuẫn Đến Gần Như Không Thể Cùng Một Người Viết.

Tóm Tắt Thực Hiện Khẳng Định “Thị Trường Điểm Thưởng Thành Viên Toàn Cầu Đạt 2,000 Tỷ USD”, Đồng Thời Chỉ Ra 30 Đến 50% Điểm Thưởng Chưa Được Sử Dụng. Trang 10 Trong Báo Cáo Nói Rằng “2,000 Tỷ USD” Là Tổng Giá Trị Của “Điểm Thưởng Chưa Đổi Quà”. Nếu 50% Điểm Thưởng Chưa Được Đổi Mà Đã Có Giá Trị Bằng 2,000 Tỷ USD Thì Thị Trường Toàn Cầu Phải Đạt Ít Nhất 4,000 Tỷ USD, Hai Số Liệu Trên Trang Mâu Thuẫn Nhau.

Quan Trọng Hơn, Cả Hai Con Số Này Đều Có Một Trích Dẫn: Một Trích Dẫn Giả Forbes, Một Trích Dẫn Giả McKinsey.

GPTZero Theo Dõi “Báo Cáo Kinh Tế Loyalty của McKinsey & Company (2022)”, Tập Tin Này Hoàn Toàn Không Tồn Tại. Trước Đó Nửa Năm, Họ Tìm Thấy Trong Một Bài Viết Trên Blog Financial IT Gần Như Giống Hệt Các Câu Trong Tập Tin Này, Và Cũng Ghi Chú Nguồn Là Báo Cáo Giả Của McKinsey.

Nói Cách Khác, Có Người Đã Tạo Ra Một Trích Dẫn Học Thuật Giả Trên Một Blog Ít Người Truy Cập, Sau Đó EY Báo Cáo Đã “Làm Sạch” Nó Trở Thành Sản Phẩm Của Bốn Công Ty Kiểm Toán Lớn. Đây Chính Là Hiện Tượng Ô Nhiễm Chuỗi Trích Dẫn.

Khi Mô Hình Ngôn Ngữ Lớn Thay Thế Google Scholar

Kỹ Sư GPTZero Đã Tạo Ra Thuật Ngữ Cho Hiện Tượng Này: vibe citing. Nói Một Cách Đơn Giản Là, Các Nhà Nghiên Cứu Hoặc Tư Vấn Lười Không Muốn Tìm Thật Nguồn Gốc, Trực Tiếp Nhờ AI Tạo Thư Mục Tham Khảo, Kết Quả Là Một Đống Các Mục Trông Giống Trích Dẫn Nhưng Thực Chất Là Giả Tạo.

Đây Là Lần Đầu Trong Chuỗi Điều Tra Của GPTZero. Trong Vài Tháng Gần Đây, Họ Đã Xây Dựng Hệ Thống Tự Động Hóa, Quét Toàn Bộ Các Báo Cáo Công Ty Tư Vấn Công Khai, Kết Quả Ban Đầu Cho Thấy Vibe Citing Đã Trở Thành “Dịch Bệnh”, Ngay Cả Các Công Ty Lớn Trong Ngành Cũng Không Ngoại Lệ.

Nhiễu Thông Tin Dữ Liệu: Rủi Ro Hệ Thống Mới Của Công Cụ Tìm Kiếm AI

GPTZero Gọi Rủi Ro Lớn Nhất Của Báo Cáo Này Là “Nhiễu Thông Tin Dữ Liệu”.

Nói Một Cách Đơn Giản Là, Tải Lên Các Tập Tin Chứa Thông Tin Giả Lên Mạng, Tương Tự Như Thêm Chất Độc Vào Kho Kiến Thức Chung Của Mọi Người, Gây Nhầm Lẫn Cho Các Nhà Nghiên Cứu Và Nhà Quyết Định Trong Tương Lai. EY Canada Hàng Năm Cung Cấp Hàng Triệu Đô La Dịch Vụ Kiểm Toán Và Tư Vấn Cho Chính Phủ Canada, Khi Các Tập Tin Này Được Đăng Tải Trên Các Trang Web Lưu Lượng Cao, Việc Phổ Biến Chất Độc Này Sẽ Nhanh Hơn Và Việc Mất Niềm Tin Sẽ Khó Khắc Phục Hơn.

Báo Cáo Này Đã Gây Chấn Động Ở Úc: Một Bài Báo Trích Dẫn Báo Cáo Này Trên “The Canberra Times” Đã Được Chuyển Đến Hơn 60 Báo Ở Úc.

GPTZero Cho Thử Nghiệm Thấy Rằng Claude, ChatGPT, Perplexity Khi Được Hỏi Về Thời Gian Phát Hiện Trung Bình Các Trò Lừa Đảo Trong Chương Trình Loyalty Đều Trích Dẫn Báo Cáo EY Nhiễu Thường. Công Cụ Nghiên Cứu Sâu AI Chọn Nguồn Khác Người, Phụ Thuộc Nhiều Vào Danh Tiếng Thương Hiệu, Do Đó Cũng Dễ Bị Nhiễu Thông Tin Dữ Liệu Này.

Công Cụ Phát Hiện Ảo Của GPTZero Hiện Đang Được Các Hội Nghị Học Thuật Đỉnh Cao Như IJCAI, ICLR, ICSE Sử Dụng Để Sàng Lọc Các Bài Báo Nộp. Trước Đó, GPTZero Cũng Đã Kiểm Tra Các Tập Tin Chính Phủ, Hai Báo Cáo Của KPMG, Và Các Bài Báo Tại Hội Nghị NeurIPS, ICLR.

Sau Khi Khảo Sát, EY Canada Đã Gỡ Bỏ Báo Cáo Trên Trang Chính Thức, Và Phát Ngôn: “EY Canada Rất Trọng Tâm Đến Độ Chính Xác Của Tất Cả Nội Dung Chúng Tôi Phát Hành, Và Cam Kết Sử Dụng AI Một Cách Có Trách Nhiệm, Hiện Đang Xem Xét Lý Do Phát Hành Báo Cáo Này.”

Một Công Ty Kiểm Toán Toàn Cầu Đứng Đầu Với Tiêu Chuẩn Nghiêm Ngặt, Chỉ Với Một Báo Cáo Do AI Tạo Ra, Đã Giao Thương Hiệu Của Mình Cho Một Mô Hình Ngôn Ngữ Không Chăm Chỉ Kiểm Tra Trích Dẫn. Khi Bị Một Nhóm Nhân Viên Nhỏ Phản Biện Công Khai, Mới Nhận Thấy Tính Nghiêm Trọng Của Vấn Đề.

Đây Không Phải Chỉ Là Một Trường Hợp Mà Là Toàn Bộ Ngành Đang Gặp Phải: Khi “AI Tạo Ra” Thay Thế “Chuyên Môn Phán Đoán”, Thì Chính Thương Hiệu Và Sự Tin Cậy Của Chính Nó Đã Trở Thành Rủi Ro Lớn Nhất Trong Các Trích Dẫn.