315 xác nhận! Tội phạm AI độc hại猖獗! AI được bạn tin tưởng là do người khác "cho ăn" chất độc

---

Note: The phrase "315实锤" refers to China's March 15 Consumer Rights Day and means "confirmed" or "solid evidence." The translation conveys that AI poisoning crimes are rampant and the AI recommendations you trust may have been deliberately contaminated by others with malicious content.

Dẫn nhập: Cuộc sống số của bạn đang bị âm thầm kiểm soát, xem xong để tránh rủi ro!

Biên tập｜Jing Cheng

Tác giả｜Jiang Jing

Trong chương trình 3-15 của CCTV năm 2026, một màn trình diễn nhỏ nhặt khiến nhiều người toát mồ hôi lạnh.

Một phần mềm gọi là “Hệ thống tối ưu GEO lực quán” có thể xuất nội dung trên nền tảng AI, đưa “bài PR” vào mô hình lớn AI, lại khiến một chiếc vòng đeo tay thông minh hư cấu trong vòng ba ngày đã bị AI đề xuất là “hàng tốt”.

Và hành động tưởng chừng phi lý này không phải là trường hợp cá biệt, mà là hình ảnh thu nhỏ của một chuỗi ngành công nghiệp hoàn chỉnh bao gồm phát triển phần mềm, tạo nội dung, phát hành hàng loạt, kiếm tiền thương mại.

Và những sự lừa dối AI như vậy có thể đang xảy ra trong từng lần chúng ta hỏi đáp AI.

Vấn đề là, những vụ “gây nhiễm” AI này khác gì so với các hình thức tuyên truyền sai lệch, xuyên tạc trên mạng thường ngày? Người bình thường có thể thao tác không? Và nó ảnh hưởng thế nào đến chúng ta cũng như ngành công nghiệp AI?

1. AI gây nhiễm độc thực sự là gì?

Cùng với việc trí tuệ nhân tạo ngày càng phổ biến trong cuộc sống, khái niệm “gây nhiễm AI” cũng dần đi vào nhận thức cộng đồng, nhiều người dễ nhầm lẫn nó với tuyên truyền sai lệch, xuyên tạc mạng, thực ra ba thứ này có bản chất khác nhau.

Chủ nghĩa gây nhiễm AI về cơ bản khác biệt rõ ràng so với tuyên truyền sai lệch, xuyên tạc thông thường. Tuyên truyền sai lệch là các doanh nghiệp trực tiếp lừa dối người tiêu dùng, ví dụ như phóng đại chiếc cốc nước bình thường thành có tác dụng chữa bệnh; xuyên tạc mạng là tạo ra thông tin giả để lan truyền, gây hiểu lầm dư luận, làm tổn hại người khác.

Ngược lại, gây nhiễm độc AI không nhằm vào con người trực tiếp, mà là trước tiên làm ô nhiễm, gây hiểu lầm cho trí tuệ nhân tạo — bằng cách chèn nội dung giả vào dữ liệu học của AI, hoặc nhập lệnh độc hại trong quá trình vận hành, khiến AI học sai kiến thức từ gốc, rồi dưới danh nghĩa “đề xuất thông minh”, truyền tải thông tin sai lệch tới chúng ta một cách gián tiếp.

Nhà văn tài chính nổi tiếng, trưởng Viện Nghiên cứu Ảnh hưởng Tầm xa Gao Chengyuan chỉ ra rằng, trong bối cảnh thương mại, định nghĩa cốt lõi của GEO (tối ưu hóa động cơ sinh) là một hệ thống xây dựng niềm tin toàn diện dành cho thời đại tìm kiếm AI, thông qua nội dung có cấu trúc rõ ràng, có thẩm quyền, giúp hình ảnh chuyên nghiệp của thương hiệu hoặc cá nhân được hệ thống AI nhìn thấy, lựa chọn và tin tưởng, cuối cùng trở thành “trả lời mặc định” trong đối thoại AI. Bản chất của nó là tích lũy hợp pháp các tài sản niềm tin, chứ không phải là phát tán thông tin sai lệch có ý đồ xấu.

Tuy nhiên, như nhà nghiên cứu của Ngân hàng Thương mại Tư nhân SuShang, ông Wu Zewei, nói, “tuyên truyền sai lệch” và “xuyên tạc mạng” là lừa dối trực tiếp nhằm vào con người, người tiêu dùng vẫn có khả năng so sánh đa kênh để phân biệt thật giả, còn gây nhiễm độc AI là tấn công gián tiếp, về mặt kỹ thuật, nó làm ô nhiễm “nguồn nước” mà AI dựa vào để suy nghĩ và phán đoán.

Ông chỉ rõ, nếu mô hình bị gây nhiễm thành công, sẽ liên tục, âm thầm cung cấp “trả lời tiêu chuẩn” bị thao túng cho tất cả các câu hỏi mà người dùng đặt ra, đóng gói thông tin sai lệch thành đánh giá khách quan của thuật toán, phạm vi tác hại theo cấp số nhân, và khó phát hiện hơn.

Ví dụ, phần mềm GEO bị phát hiện trong chương trình 3-15 chính là công cụ cốt lõi của gây nhiễm độc AI.

Theo báo của Global Network, sau khi các chuyên gia trong ngành mua phần mềm này trên các nền tảng thương mại điện tử, họ đã tạo ra một chiếc vòng đeo tay thông minh gọi là Apollo9, rồi bịa đặt các tuyên bố phi lý như “cảm biến lượng tử rối”, “thời gian tồn tại như hố đen”, nhập vào phần mềm, chỉ trong vài phút đã tạo ra hơn chục bài PR, phần mềm còn tự động đăng tải, không cần người quản lý.

2. Gây nhiễm độc AI thật sự có thể thao tác không cần nền tảng không?

Hiện nay, trên mạng lan truyền câu nói “chỉ cần trăm đồng, không cần nền tảng vẫn có thể gây nhiễm độc AI”, thực tế ra sao? Tình trạng lưu hành của phần mềm tối ưu GEO trên mạng như thế nào, tại sao dễ dàng mua được như vậy?

Phó nghiên cứu viên Viện Khoa học Xã hội Bắc Kinh, Wang Peng, cho biết, “gây nhiễm độc không cần nền tảng” thường đề cập đến việc sử dụng các công cụ tự động để phân phối quy mô lớn các nội dung do AI tạo ra, mang xu hướng nhất định trên mạng xã hội, các nền tảng hỏi đáp. Phương thức này chi phí cực thấp, về bản chất là “phiên bản AI của SEO”.

Ông chỉ ra, phần mềm GEO đang lưu hành trong cộng đồng đen, xám và một số nền tảng thương mại điện tử dưới danh nghĩa “công cụ dẫn lưu”. Nó nằm trong phạm vi xám của pháp luật và quản lý kỹ thuật, ban đầu khó phân biệt với nội dung chính thống, dẫn đến rào cản mua bán rất thấp.

Nguyên nhân chính khiến dễ dàng mua được là do có nhu cầu lớn, thiếu kiểm soát. Các doanh nghiệp đều muốn chiếm lĩnh vị trí đề xuất của AI, dù đã chi trăm triệu đô la quảng cáo, vẫn sẵn sàng bỏ ra vài trăm nghìn để gây nhiễm độc, chỉ để AI đề xuất nhiều hơn về sản phẩm của họ.

Trong báo của Đài Phát thanh Trung ương, có nhà cung cấp dịch vụ GEO thẳng thắn nói “làm GEO là gây nhiễm độc”, họ phục vụ hơn 200 khách hàng mỗi năm, các nền tảng phát hành bài cũng kiếm chênh lệch, một bài PR giả mạo vài chục tệ, phát hàng loạt, dần hình thành chuỗi đen hoàn chỉnh.

Các phương thức gây nhiễm như đảo thẻ, tấn công hậu cửa, chèn hướng dẫn, có khó về mặt kỹ thuật không? Người bình thường có thể thao tác dễ dàng không? Hiện nay có công nghệ nào nhanh chóng nhận diện hành vi gây nhiễm này không?

Chuyên gia của Hội Truyền thông Khoa học và Công nghệ Trung Quốc, Gao Heng, cho rằng, so với các tấn công giai đoạn suy luận như chèn hướng dẫn, thì dễ xuất hiện hơn, vì nó xảy ra trong quá trình sử dụng mô hình, về bản chất là dẫn dụ mô hình sinh ra câu trả lời lệch khỏi dự kiến qua đầu vào đặc biệt.

Ông cho rằng, phương thức này thường ảnh hưởng đến kết quả của một lần tương tác, chứ không làm thay đổi khả năng của mô hình. Vì vậy, theo định nghĩa kỹ thuật nghiêm ngặt, hành vi gây nhiễm thực sự “ô nhiễm khả năng mô hình” không dễ thao tác, cũng khó thực hiện hàng loạt bằng công cụ đơn giản.

3. Gây nhiễm độc AI kéo ngành công nghiệp AI đi xuống

Khi các mô hình AI lớn ngày càng thâm nhập sâu vào cuộc sống, sản xuất và sáng tạo của chúng ta, một mối đe dọa còn âm thầm hơn, nguy hiểm hơn về mặt kỹ thuật đang lan rộng — đó chính là gây nhiễm độc AI.

Nó không rõ ràng như hỏng phần cứng, cũng không dễ sửa như lỗ hổng thuật toán, mà dùng dữ liệu giả, mẫu độc hại, thông tin sai lệch làm vũ khí, âm thầm làm ô nhiễm “đất trồng” huấn luyện AI dựa vào.

Nhiều người chỉ xem đó là một vấn đề nhỏ về dữ liệu không sạch, nhưng lại bỏ qua rằng nền tảng của AI chính là dữ liệu, nếu dữ liệu bị gây nhiễm, thì tương lai của AI cũng sẽ bị lung lay.

Sau khi vạch trần sự thật về gây nhiễm độc AI, điều mọi người cần đặt câu hỏi nhất là: Ô nhiễm vô hình này sẽ gây ra tác động lớn đến toàn bộ ngành công nghiệp AI như thế nào? Dữ liệu giả gây ô nhiễm mô hình huấn luyện, có thực sự khiến tích lũy kỹ thuật nhiều năm đổ sông đổ biển trong một đêm, dẫn đến vòng luẩn quẩn “tiền giả đẩy lùi tiền thật” không?

Câu trả lời còn nghiêm trọng hơn chúng ta nghĩ rất nhiều.

Với người bình thường, thiệt hại trực tiếp nhất chính là bị AI dẫn dắt sai lệch: hỏi AI về sản phẩm gia dụng tốt nhất, có thể đề xuất hàng giả; hỏi AI về pháp lý, có thể bị dẫn dắt ký hợp đồng vô hiệu.

Dựa vào AI để khám bệnh, có thể nhận được lời khuyên dùng thuốc sai, những tổn thương này liên quan mật thiết đến cuộc sống của chúng ta, mà rất khó phát hiện — vì mọi người thường nghĩ “AI sẽ không sai”.

Sau khi biết rõ những tác hại của gây nhiễm độc AI, bạn còn dám mù quáng tin vào đề xuất của AI nữa không?

Chuyên gia quản lý doanh nghiệp cao cấp, tư vấn viên cao cấp Dong Peng, cho rằng, trong ngắn hạn, nó nhất định sẽ gây ra hiệu ứng “tiền giả đẩy lùi tiền thật”, gây ô nhiễm dữ liệu huấn luyện ra mô hình chất lượng thấp, làm rối loạn thị trường, nâng cao chi phí làm sạch dữ liệu của các doanh nghiệp hợp pháp, đẩy lùi không gian tồn tại của AI chất lượng cao.

Nhà sáng lập Wanshi Technology, Mao Huina, cho rằng, gây nhiễm độc AI sẽ không kéo dài lâu, cũng không tạo ra vòng luẩn quẩn “tiền giả đẩy lùi tiền thật”. AI cuối cùng phục vụ người dùng, nội dung chất lượng thấp trong ngắn hạn dù có thể làm mê hoặc tạm thời các công cụ hỏi đáp AI, nhưng rất dễ bị người dùng nhận diện, và phản hồi của người dùng sẽ giúp các mô hình ngôn ngữ lớn học cách phân biệt chất lượng thông tin, liên tục tối ưu. Với tiến bộ của các mô hình ngôn ngữ lớn, sẽ thúc đẩy phát triển kinh doanh phân khúc, đa dạng hóa tích cực, cuối cùng tiền giả cũng khó tồn tại lâu dài.

Theo Dong Peng, về lâu dài, sự đối lập này sẽ thúc đẩy một động lực tiến hóa chung, sự tràn lan của các cuộc tấn công gây nhiễm sẽ buộc toàn ngành chuyển từ phát triển “quy mô mở rộng” theo kiểu thô sơ, sang giai đoạn tập trung “chất lượng dữ liệu” và “độ bền của mô hình”.

Ông thừa nhận, điều này giống như một liều vaccine mạnh, dù quá trình có đau đớn, nhưng đã bắt buộc nâng cao ý thức cộng đồng về an toàn dữ liệu, độ tin cậy của mô hình, cuối cùng thúc đẩy công nghệ AI phát triển theo chiều xoắn ốc, từ “số lượng” chuyển sang “chất lượng”, phủ định của phủ định.

4. Làm thế nào để GEO trở lại đúng hướng

Khi gây nhiễm độc AI từ một mối nguy tiềm tàng về kỹ thuật, biến thành mối đe dọa rõ ràng đối với an toàn ngành công nghiệp, mọi người vừa cảnh giác với rủi ro, vừa bắt đầu đặt câu hỏi quan trọng hơn: Những công cụ bị lợi dụng để gây nhiễm độc này có mang “tội lỗi nguyên thủy” từ gốc không?

Nhiều công cụ bị tội phạm mạng lạm dụng không sinh ra để phá hoại, và GEO là ví dụ điển hình. Ban đầu, nó là công nghệ tích cực giúp tối ưu mô hình AI, nâng cao chất lượng và độ tin cậy dữ liệu, nhưng dưới lợi ích thúc đẩy, đã bị biến chất thành vũ khí gây nhiễm dữ liệu. Công nghệ vốn không có tội, chỉ có lạm dụng mới là vấn đề.

Đối mặt với tình trạng này, ngành không thể chỉ dừng lại ở phòng thủ thụ động, mà cần chủ động chỉnh sửa. Làm thế nào để từ cấp ngành dẫn dắt các công nghệ này trở về giá trị tích cực? Tự giác ngành có thể giữ vững nguyên tắc không? Và cần có những chế độ, công nghệ, hệ sinh thái phối hợp như thế nào để thực sự lợi ích nhiều hơn hại?

Câu trả lời cần toàn ngành cùng chung tay.

Sau vụ phát hiện 3-15, nhiều doanh nghiệp liên quan đến GEO đã tuyên bố kiên quyết phản đối gây nhiễm độc AI, như đối tác của iFlytek là Công ty Công nghệ Mạng Hòa Hợp Hà Nam Henghui, AB Ke, đều rõ ràng không làm dịch vụ “điều khiển đề xuất AI” hay “đẩy thứ hạng” trái phép.

Đây chính là bước đầu của tự giác ngành, nhưng chỉ dựa vào tự giác thì chưa đủ.

Phó thư ký Hiệp hội Công nghiệp Internet Vật thể Cảm biến CMC Yuan Shuai cho biết, để hướng dẫn GEO và các công nghệ khác trở về ứng dụng tích cực, cần xây dựng quy chuẩn rõ ràng về sử dụng công nghệ trong ngành, xác định rõ các trường hợp hợp pháp của công nghệ, ví dụ như giới hạn GEO trong tối ưu mô hình, hiệu chỉnh dữ liệu, đồng bộ dữ liệu, đồng thời xây dựng cơ chế đăng ký cho nhà cung cấp dịch vụ công nghệ, quản lý chặt chẽ việc phát triển và bán các công cụ liên quan.

Nhà đầu tư thiên thần, chuyên gia AI kỳ cựu Guo Tao, nhấn mạnh, còn cần chính phủ tăng cường quản lý, ban hành các luật pháp liên quan, xử phạt nghiêm các hành vi gây nhiễm độc; thành lập các cơ quan kiểm duyệt và giám sát dữ liệu uy tín, kiểm tra dữ liệu huấn luyện và mô hình AI. Đồng thời, đẩy mạnh nghiên cứu công nghệ, nâng cao khả năng chống gây nhiễm của mô hình AI, sử dụng các biện pháp kỹ thuật để phòng tránh gây nhiễm, phối hợp nhiều biện pháp để hướng công nghệ phát triển tích cực.

Sau vụ phát hiện gây nhiễm độc AI trong ngành đen, giữ vững giới hạn đề xuất của AI, bảo vệ cuộc sống số và dữ liệu của bạn.

Lần tới gặp các sản phẩm đề xuất lạ của AI, bạn có còn tin ngay không?

Bạn đã từng bị thông tin sai lệch do AI đề xuất lừa đảo chưa? Hãy chia sẻ trải nghiệm của bạn trong phần bình luận, cùng nhau tránh rủi ro!

Một phần tổng hợp từ Global Network, Trung ương Đài phát thanh và Truyền hình Trung Quốc và các nguồn khác