GEO bị bại lộ "đầu độc", các công ty chứng khoán và quỹ tập thể bối rối: Còn được làm hay không? Cách xác định ranh giới như thế nào?

AI · GEO bị phơi bày vụ việc đầu đuôi ra sao?

Công ty Tin tức Liên kết Tài chính ngày 16 tháng 3 đưa tin (phóng viên Vương Ngọc Linh): “Chúng tôi đang nghiên cứu xem có nên đầu tư vào GEO không, hôm 15/3 bị phơi bày rồi, vậy còn có thể làm nữa không?” Một nhân viên quản lý tài sản của một công ty chứng khoán cho biết, sáng nay công ty đã trao đổi với nhiều nhà cung cấp về tính hợp pháp và tuân thủ của GEO.

GEO, tức là tối ưu hóa động cơ sinh (Generative Engine Optimization), giúp AI nhanh chóng trích xuất các thông tin quan trọng trong nội dung và ưu tiên trích dẫn nội dung thương hiệu khi tạo ra câu trả lời. Theo ghi nhận của phóng viên, hiện đã có nhiều công ty chứng khoán và quỹ đầu tư thử nghiệm sử dụng công nghệ GEO để nâng cao mức độ xuất hiện và tần suất đề cập thương hiệu của mình trong nội dung do AI tạo ra.

Sau khi chương trình tối 15/3 phơi bày về “GEO đầu độc,” đã gây ra nhiều tranh luận trong ngành. Việc phân biệt GEO hợp lệ hay vi phạm quy định là như thế nào? Ranh giới giữa hợp pháp và bất hợp pháp ra sao?

Tối ưu hợp pháp hay “GEO đầu độc”, ranh giới ở đâu?

“Theo ý kiến cá nhân tôi, tối ưu hóa bình thường, miễn là nội dung không vi phạm pháp luật, thì về bản chất và mục đích cũng giống như marketing nội dung.” Một người phụ trách kinh doanh trực tuyến của một công ty chứng khoán lớn chia sẻ với phóng viên.

“Nếu là đầu tư GEO hợp lệ, thì giống như thời kỳ tìm kiếm truyền thống, thương hiệu cạnh tranh xếp hạng trên trang kết quả tìm kiếm qua tối ưu hóa SEO, đó là một hình thức marketing.” Nhân viên quản lý tài sản của công ty chứng khoán trên nói.

Vậy làm thế nào để phân biệt giữa tối ưu hợp lệ và “đầu độc”?

Một nhà sáng lập công ty GEO cho biết với Tín tức Liên kết, ông cho rằng vụ phơi bày “GEO đầu độc” của Trung ương truyền hình Trung Quốc (CCTV) gồm ba điểm: thứ nhất, nội dung do robot tạo hàng loạt; thứ hai, thông tin là giả tưởng; thứ ba, thông tin được lan truyền qua kiểm soát nhiều tài khoản. Ông cho rằng, thông tin giả là tiêu chuẩn then chốt để đánh giá tính hợp lệ hay không.

Theo ông, tối ưu GEO hợp pháp và tuân thủ ít nhất phải đảm bảo “ngữ liệu hợp lệ, dữ liệu phù hợp, kênh phù hợp và giấy phép hợp lệ” bốn điểm.

“Nếu dùng các phương pháp như huấn luyện AI, cung cấp dữ liệu giả để tạo ra thông tin sai lệch về chứng khoán hoặc các hành vi vi phạm pháp luật khác, thì đó là hành vi bị pháp luật cấm. Từ góc độ quản lý, yêu cầu kiểm soát còn cao hơn, quá trình phát hiện vi phạm có thể phức tạp hơn, cần nâng cao phương thức quản lý phù hợp theo thời gian.” Luật sư Hứa Phong của Văn phòng Luật sư Thượng Hải Jiucheng nói với phóng viên. Ông nhận định rằng, cơ quan quản lý đã để ý đến các vấn đề này, các biện pháp lập pháp và quản lý sẽ sớm theo kịp.

Một chuyên gia về pháp lý và quan hệ công chúng cho rằng, hiện tượng rối loạn GEO chủ yếu tập trung vào ba vấn đề: thứ nhất, quảng cáo thương mại chưa ghi rõ “quảng cáo” hoặc “quảng bá,” xâm phạm quyền thông tin của người tiêu dùng; thứ hai, quảng cáo giả tràn lan, một số nhà cung cấp dịch vụ GEO dùng cách tạo báo cáo uy tín, giả mạo ý kiến chuyên gia, giả mạo đánh giá của người dùng để cung cấp thông tin sai lệch cho AI, gây hiểu lầm cho người dùng trong quyết định; thứ ba, liên quan đến cạnh tranh không lành mạnh, một số doanh nghiệp can thiệp thủ công vào kết quả đề xuất của AI qua công nghệ GEO, tạo ra nội dung chất lượng thấp, đồng nhất hàng loạt, nhằm giảm thiểu sự xuất hiện của đối thủ cạnh tranh và nâng cao thứ hạng thương hiệu của chính mình, phá hoại môi trường cạnh tranh công bằng.

Nhà sáng lập công ty GEO nói trên cho rằng, nguyên nhân gốc rễ của các vấn đề này là sau khi vị trí thống lĩnh của Baidu trong tìm kiếm bị suy yếu, nhiều người làm nghề đã đơn giản chuyển kinh nghiệm SEO cũ sang lĩnh vực GEO, trong khi trên lĩnh vực mới này thiếu các quy chuẩn và tiêu chuẩn ngành hiệu quả, dẫn đến các phương pháp ngày càng quyết liệt hơn.

Ông cho rằng, chìa khóa để kiểm soát các rối loạn trong ngành là sự hướng dẫn chuẩn mực từ các nhà sản xuất mô hình lớn. “Hiện tại, họ chủ yếu tập trung vào huấn luyện mô hình, chờ đến khi có thể quản lý nguồn thông tin một cách chuẩn xác hơn, thì trật tự ngành sẽ dần được hình thành. Ví dụ, các mô hình trong lĩnh vực y dược, pháp lý hiện chưa mở cho truy cập bên ngoài, nên các vấn đề rối loạn đó ít xảy ra hơn.”

“GEO đầu độc” có thể đối mặt với hậu quả pháp lý nào?

Vậy nếu thực sự thực hiện “GEO đầu độc,” các bên liên quan sẽ bị xử lý ra sao?

Chuyên gia pháp lý và quan hệ công chúng này cho biết, các nhân viên doanh nghiệp và công ty PR thực hiện “GEO đầu độc” có thể bị truy tố về tội quảng cáo giả. Theo Điều 222 của Bộ luật Hình sự, chủ thể quảng cáo, nhà kinh doanh quảng cáo, nhà phát hành quảng cáo vi phạm quy định của nhà nước, sử dụng quảng cáo để tuyên truyền sai sự thật về hàng hóa hoặc dịch vụ, gây hậu quả nghiêm trọng thì bị phạt tù không quá hai năm hoặc tạm giam, cùng phạt tiền hoặc phạt tiền đơn.

Làm thế nào để xác định “hậu quả nghiêm trọng”?

Theo Điều 67 của Quy định của Viện Kiểm sát Nhân dân Tối cao và Bộ Công an về tiêu chuẩn khởi tố vụ án hình sự thuộc thẩm quyền của cơ quan công an (lần thứ hai), chủ thể quảng cáo vi phạm quy định của nhà nước, sử dụng quảng cáo để tuyên truyền sai sự thật về hàng hóa hoặc dịch vụ, có thể bị khởi tố nếu thuộc một trong các trường hợp sau:

• Thu lợi bất chính từ 100.000 nhân dân tệ trở lên;
• Quảng cáo sai sự thật về thực phẩm, thuốc, với số tiền thu lợi bất chính từ 30.000 nhân dân tệ trở lên;
• Dù chưa đạt các mức trên, nhưng trong vòng 2 năm đã bị xử phạt hành chính hai lần trở lên vì sử dụng quảng cáo sai sự thật, lại tiếp tục vi phạm;
• Gây hậu quả nghiêm trọng hoặc ảnh hưởng xấu đến xã hội.

Về mặt pháp lý, GEO là lĩnh vực mới, hiện chưa có án lệ hình sự nào. Tuy nhiên, theo tin đăng trên “Trang web Tòa án Trung Quốc” do Tòa án Nhân dân tối cao tổ chức, Tòa án Nhân dân thành phố Lâm Xuyên, tỉnh Hồ Nam, đã từng xử phạt hai bị cáo vì đã dùng đánh giá giả để lừa dối người tiêu dùng.

Thẩm phán trong vụ án này còn đưa ra “Lời nhắc nhở của thẩm phán”: “Việc giả mạo đánh giá để doanh nghiệp có được uy tín ảo trên thị trường về bản chất là hành vi quảng cáo sai sự thật bằng các thủ đoạn che giấu, không chỉ xâm phạm quyền biết và quyền lựa chọn của người tiêu dùng, mà còn phá hoại môi trường cạnh tranh công bằng, đè nén các doanh nghiệp trung thực, tuyệt đối không vì nâng cao uy tín giả mà mua hoặc cung cấp dịch vụ.”

Trong kỳ họp Quốc hội lần thứ 14, Bộ trưởng Bộ Tư pháp Hà Nghiêm cũng phát biểu tại “Hành lang Bộ trưởng” trong phiên họp thứ ba của Quốc hội, rằng năm nay sẽ tiếp tục tăng cường cung cấp các quy định pháp luật trong các lĩnh vực trọng điểm, lĩnh vực mới nổi, lĩnh vực quốc tế, thúc đẩy nghiên cứu và ban hành luật về trí tuệ nhân tạo và kinh tế không phận, để pháp chế phù hợp hơn với các cải cách, phát triển và ổn định. Các quy định pháp luật liên quan đến lĩnh vực trí tuệ nhân tạo có thể sẽ được hoàn thiện rõ ràng hơn.

(Phóng viên Vương Ngọc Linh của Tín tức Liên kết)