Theo dõi xu hướng | AI cũng có thể bị "đầu độc", chúng ta nên tránh những cạm bẫy nào?

Đăng nhập ứng dụng Sina Finance để tìm kiếm【Thông tin công bố】xem thêm các cấp độ đánh giá

Chứng khoán chỉ cần xem báo cáo phân tích của các nhà phân tích Kim Kỳ Lân, uy tín, chuyên nghiệp, kịp thời, toàn diện, giúp bạn khai thác các cơ hội chủ đề tiềm năng!

（Nguồn: Xinhua News Agency）

“Gặp việc không quyết hỏi AI”, câu nói phổ biến này đã trở thành hình ảnh hàng ngày của nhiều người. Từ hướng dẫn du lịch, chọn mua thiết bị gia dụng đến giới thiệu lớp học thêm, việc mở AI để tìm câu trả lời ngày càng trở nên phổ biến. Tuy nhiên, một chuỗi ngành đen vừa bị phơi bày đã cảnh báo về sự phụ thuộc này: những đề xuất khách quan mà bạn nghĩ là thật ra có thể là kết quả của việc các nhà kinh doanh trả tiền để “tẩy não” AI.

Vậy AI “gửi độc” hoạt động như thế nào? Người dùng bình thường làm thế nào để nhận biết và phòng tránh? Nhân dân Nhật báo Thư viện ý kiến mời Phó giáo sư Trương Ứng Giới, Khoa Quản lý Quang Hoa, Đại học Bắc Kinh phân tích và giải đáp.

AI “gửi độc” là gì? Tác hại lớn đến mức nào?

AI “gửi độc” là chỉ việc con người tạo ra và phát tán thông tin giả, phóng đại hoặc mang tính thiên vị nhằm ảnh hưởng đến câu trả lời của mô hình lớn. AI có thể xem những thông tin này như căn cứ để trả lời, rồi đề xuất cho người dùng những câu trả lời có vẻ khách quan. Điểm khác biệt lớn nhất so với SEO truyền thống là: trước đây người dùng khi tìm kiếm thường còn giữ được khả năng phán đoán, còn khi đối thoại với AI, đối diện là câu trả lời đã được tổng hợp sẵn, cộng thêm cách tương tác dễ khiến người ta nhầm tưởng “nó đang phân tích cho tôi”, dễ lơ là cảnh giác hơn.

Tác hại của nó chủ yếu thể hiện ở hai mặt: Một là gây nhầm lẫn trong quyết định của người tiêu dùng, người dùng có thể thấy không phải là quảng cáo mà là lời khuyên khách quan mang tính thao túng. Hai là làm ô nhiễm môi trường thông tin. Nếu việc thao túng AI để đề xuất mang lại lợi ích thương mại cao hơn so với tìm kiếm truyền thống, sẽ kích thích xuất hiện nhiều nội dung giả, chất lượng thấp, tạo thành vòng luẩn quẩn xấu.

GEO là cách nào từng bước thao túng câu trả lời của AI?

GEO (Tối ưu hóa động cơ sinh) là một hành vi marketing dựa trên câu trả lời của AI. Khác với cạnh tranh xếp hạng trang web trong SEO truyền thống, mục tiêu của GEO là để tên thương hiệu, sản phẩm hoặc dịch vụ của doanh nghiệp được đề cập và đề xuất chính xác trong các câu trả lời do AI tạo ra.

Chủ yếu của GEO không phải “xâm nhập AI bất hợp pháp”, mà là “đầu độc AI theo ý muốn”, tức là theo logic truy xuất và sinh của mô hình lớn, sắp xếp trước nội dung mục tiêu vào những vị trí nó có khả năng chấp nhận hơn. Các bước cụ thể gồm: tìm hiểu nguồn tin và cách thể hiện AI ưa thích (ví dụ: kết luận rõ ràng, cấu trúc rõ ràng, có dấu hiệu so sánh và trích dẫn); sản xuất hàng loạt nội dung giả dạng đánh giá, so sánh, tổng hợp kinh nghiệm hoặc đề xuất của chuyên gia; phân phối dày đặc trên nhiều nền tảng, tạo ra giả tượng “đồng thuận đa phương”, nâng cao khả năng nội dung được truy xuất và tổng hợp.

Làm thế nào để người dùng nhận biết AI có thể đã “nhiễm độc”?

Nếu phát hiện câu trả lời của AI có các dấu hiệu sau, cần cảnh giác cao: câu trả lời quá đơn điệu, giọng điệu khẳng định, thiếu so sánh cần thiết; liên tục đề xuất một thương hiệu, đặc biệt là thương hiệu không nổi tiếng, và lý do rất đầy đủ, như đánh giá tiêu chuẩn, điều này không nhất thiết là phát hiện ra “kho báu”, mà có thể là nội dung liên quan bị tập trung sắp xếp nhân tạo; câu hỏi giống nhau nhưng câu trả lời khác nhau hoặc mâu thuẫn lớn giữa các AI cũng cho thấy vấn đề có độ không chắc chắn cao hoặc nguồn thông tin mà một số mô hình dựa vào đã bị nhiễu loạn.

Tại sao các mô hình lớn của AI lại dễ bị “gửi độc”? Khó khăn trong quản lý ở đâu?

Lý do chính khiến các mô hình lớn của AI dễ bị “gửi độc” là vì khi trả lời các câu hỏi thời gian thực, chúng cần truy xuất thông tin bên ngoài rồi mới sinh câu trả lời. Một khi nội dung trên mạng công khai bị nhiễu loạn có hệ thống, các thông tin lệch lạc có thể đi vào mô hình qua quá trình truy xuất.

Xa hơn nữa, mô hình lớn giỏi về sinh ngôn ngữ và tổng hợp mẫu, nhưng không có khả năng tự đánh giá tính xác thực của thông tin một cách ổn định. Nó có thể phân biệt nội dung “giống như câu trả lời hợp lý”, nhưng không nhất thiết phân biệt được nội dung “thật sự đáng tin cậy”. Nội dung “gửi độc” thường được giả dạng thành các dạng đáng tin cậy như đánh giá, so sánh, chia sẻ kinh nghiệm, đề xuất của chuyên gia, nên dễ gây nhầm lẫn cho mô hình hơn.

Các khó khăn trong quản lý chủ yếu là gì: Chi phí tấn công thấp, chi phí phòng thủ cao. Việc tạo ra và phân phối nội dung này ngày càng dễ, nhưng việc nhận diện, lọc và xác minh đòi hỏi các nền tảng, công ty mô hình và cơ quan quản lý phải liên tục đầu tư. Thứ hai, ranh giới giữa thật và giả ngày càng mờ nhạt. Nhiều nội dung “gửi độc” không phải là giả mạo rõ ràng, mà là pha trộn phóng đại, gây hiểu lầm và thể hiện lợi ích, dạng nội dung này khó nhận diện hơn đối với AI cũng như kiểm duyệt thủ công.

Làm thế nào để quản lý chặn các lỗ hổng “gửi độc” của AI?

Việc quản lý “gửi độc” của AI cần phối hợp từ nhiều khâu. Trước tiên, cần tăng cường quản lý nguồn gốc, hạn chế phạm vi lan truyền nội dung giả, mẫu mực, giả khách quan quy mô lớn. Thứ hai, cần tăng trách nhiệm của nền tảng AI, nâng cao khả năng lựa chọn nguồn tin, cảnh báo rủi ro và đánh dấu tính không chắc chắn, chứ không chỉ “bắt được gì nói đó”.

Quan trọng hơn, cần sớm hoàn thiện các quy định liên quan. Khác với quảng cáo truyền thống, nội dung AI dễ bị người dùng hiểu là kết luận sau phân tích, do đó cần làm rõ nghĩa vụ và trách nhiệm của nền tảng trong việc công khai thông tin.

Người dân làm thế nào để phòng tránh hiệu quả?

Phương pháp phòng tránh thực tế nhất là điều chỉnh tâm lý: xem AI như công cụ giúp sắp xếp thông tin, bổ sung bối cảnh, chứ không phải người thay bạn quyết định. Khi liên quan đến các vấn đề mang tính quyết định như “nên mua gì”, “chọn nhà cung cấp nào”, câu trả lời của AI chỉ nên xem như tham khảo, không nên coi là kết luận.

Cụ thể, đầu tiên là kiểm tra nguồn thông tin, nếu AI có trích dẫn liên kết, hãy mở ra xem nguồn từ tổ chức uy tín, phương tiện truyền thông chính thống hay các trang web, mạng xã hội, bài đánh giá quảng cáo có mục đích quảng bá. Thứ hai, thực hiện kiểm tra chéo bằng cách hỏi nhiều AI khác nhau hoặc dùng công cụ tìm kiếm để xem phản hồi của người dùng, báo chí, phản ánh và khiếu nại có nhất quán không.

Tóm lại, để phòng tránh “gửi độc” của AI, điều quan trọng không phải là nắm vững công nghệ phức tạp, mà là giữ thói quen phán đoán cơ bản nhất: AI có thể giúp bạn tiết kiệm thời gian, nhưng không thể thay thế trách nhiệm phán đoán của chính bạn.

Chương trình: Đường Tâm Y

Chỉ đạo chung: Dương Liễu Trương Khải

Biên tập: Tôn Huệ