Đại lý AI doanh nghiệp, lỗ hổng an toàn đằng sau năng suất… Khoảng cách quản trị mở rộng

Trong bối cảnh các doanh nghiệp đang thúc đẩy nhanh việc tích hợp trí tuệ nhân tạo (AI), các “đại lý tự chủ” nhằm nâng cao hiệu quả công việc cũng trở thành những lỗ hổng bảo mật mới. Đặc biệt đáng chú ý là nhiều doanh nghiệp dù đã triển khai AI đại lý vào hệ thống nội bộ, nhưng chưa xây dựng hệ thống tin cậy và quản trị phù hợp để quản lý chúng, điều này được xem là rủi ro cốt lõi.

Giám đốc điều hành của KnowBe4, Brian Palma, phát biểu tại sự kiện KB4-CON 2026: “Vấn đề căn bản trong lĩnh vực an ninh hiện nay là khoảng cách giữa tốc độ triển khai và tốc độ xây dựng hệ thống quản trị.” Ông nhấn mạnh rằng, các doanh nghiệp cần đầu tiên “nhận diện” và “hiểu rõ” các AI đại lý đang hoạt động trong hệ thống của mình. Ông giải thích rằng, cách tiếp cận với AI đại lý nên theo cách mà ngành an ninh đã từng xử lý nhân viên con người trong quá khứ. Điều này có nghĩa là xem chúng như những tài sản chưa được đào tạo đầy đủ, hiểu rõ hành vi của chúng trước khi tiến hành bảo vệ.

Palma ví AI đại lý như đang ở giai đoạn tiểu học. Ông giải thích rằng, chúng không thể phân biệt các lệnh độc hại, dễ bị dẫn dắt bởi các lệnh sai hoặc mã độc. Ông nói: “Chìa khóa để xây dựng niềm tin là ‘minh bạch’.” Cần phải rõ ràng về các đại lý nào đang tồn tại, chúng kết nối với hệ thống nào, và có thể truy cập vào những tài nguyên nào.

Từ “con người” đến “AI đại lý”… phạm vi quản lý an ninh mở rộng

Để đối phó với sự thay đổi này, KnowBe4 đang mở rộng nền tảng quản lý rủi ro con người hiện có của mình để bao gồm cả an ninh AI đại lý. Công cụ AIDA của công ty là một công cụ tự động hóa và cá nhân hóa đào tạo nhận thức an ninh cho nhân viên, trong khi sản phẩm mới “Quản lý rủi ro đại lý” tập trung vào việc quản lý danh sách các AI đại lý hoạt động trong môi trường doanh nghiệp, xác định các đường kết nối và quyền truy cập của chúng, đồng thời thiết lập các chính sách và cơ chế hạn chế phù hợp.

Theo Palma, công cụ này sẽ bắt đầu bằng việc tổng hợp danh sách các AI đại lý hiện có trong nội bộ doanh nghiệp. Sau đó, nó sẽ theo dõi từng đại lý sử dụng các tiến trình nào, kết nối đến đâu, ví dụ như hệ thống email hoặc hệ thống tài chính. Bước cuối cùng là thiết lập các “hàng rào” phân biệt rõ các hành vi “có thể làm” và “không thể làm” của đại lý.

Điều này cho thấy, chiến lược an ninh doanh nghiệp gần đây đang chuyển sang cấu trúc “mối đe dọa kép”. Bởi vì cùng một AI đại lý vừa có thể nâng cao năng suất, vừa có thể trở thành kênh bị tấn công lợi dụng. Cuối cùng, các doanh nghiệp phải đối mặt với tình huống vừa xây dựng các chiến lược phòng thủ, vừa tận dụng.

Mối đe dọa AI ngày càng tinh vi… “Trong vòng một năm tới, các sự cố do đại lý gây ra sẽ gia tăng”

KnowBe4 cho biết, mô hình AI của họ dựa trên dữ liệu hành vi tích lũy trong 15 năm từ 70.000 tổ chức và hơn 100 triệu người dùng để học hỏi. Palma chỉ ra rằng, đây chính là điểm khác biệt của công ty so với các đối thủ cạnh tranh. Theo báo cáo “Tình hình rủi ro con người năm 2025” của công ty, 45% các nhà lãnh đạo an ninh mạng xem “mối đe dọa do AI liên tục tiến hóa” là thách thức lớn nhất.

Ông bổ sung rằng, trên nền tảng AIDA, so với phương pháp thủ công, điểm số rủi ro cá nhân đã giảm khoảng 4 điểm phần trăm. Điều này cho thấy, việc sử dụng AI để đào tạo an ninh tùy chỉnh đã đóng vai trò tích cực trong việc cải thiện hành vi thực tế của người dùng.

Ngoài ra, KnowBe4 đang mở rộng phạm vi hỗ trợ từ Microsoft Copilot đến Gemini, Claude và ChatGPT để đối phó với môi trường “đa LLM”. Họ cho rằng, vì các doanh nghiệp không chỉ dựa vào một mô hình ngôn ngữ lớn duy nhất, nên quản lý rủi ro AI đại lý cũng phải có khả năng xử lý nhiều mô hình cùng lúc.

Palma cảnh báo rằng, trong vòng một năm tới, các trường hợp sự cố an ninh doanh nghiệp do AI đại lý gây ra như lỗ hổng trực tiếp có thể sẽ tăng mạnh. Ông nói: “Đại lý sẽ mở rộng diện tấn công. Việc triển khai rất quan trọng và hiệu quả, nhưng cũng mang lại rủi ro lớn.”

Chìa khóa an ninh AI doanh nghiệp hiện nay đã vượt ra ngoài câu hỏi “có nên triển khai hay không”, mà chuyển sang “ai đang sử dụng loại AI đại lý nào, và kết nối đến đâu”. Một số ý kiến cho rằng, để chiến lược AI lấy năng suất và đổi mới làm trung tâm đạt hiệu quả, điều kiện tiên quyết là phải xây dựng hệ thống tin cậy và kiểm soát trước, và quan điểm này ngày càng được nhiều người ủng hộ.

Lưu ý về AI TP Bài viết dựa trên tóm tắt của mô hình ngôn ngữ TokenPost.ai. Nội dung chính trong bài có thể bị bỏ qua hoặc không chính xác.