CertiK Ra mắt Trình quét Kỹ năng AI cho An ninh Đại lý

• CertiK đã ra mắt Skill Scanner, một sản phẩm an ninh được xây dựng để đánh giá các Kỹ Năng AI của bên thứ ba trước khi chúng được sử dụng bởi các tác nhân AI.
• Công cụ nhắm vào các rủi ro như hành vi độc hại ẩn, truy cập dữ liệu trái phép và thực thi tự động trong môi trường Web3 và Web2.

CertiK đang đẩy sâu hơn vào lĩnh vực an ninh AI với việc ra mắt CertiK Skill Scanner, một sản phẩm được thiết kế để xem xét các Kỹ Năng AI của bên thứ ba trước khi chúng được cài đặt, xuất bản hoặc phê duyệt để sử dụng trong các hệ thống doanh nghiệp. Công ty mô tả công cụ như một lớp chống virus gần như là một lớp bảo vệ cho kỷ nguyên tác nhân AI. So sánh này không hoàn hảo, nhưng nó đi vào trọng tâm. Các tác nhân AI không còn chỉ trả lời câu hỏi trong một cửa sổ trò chuyện nữa. Chúng bắt đầu gọi các công cụ bên ngoài, đọc tệp, kích hoạt quy trình làm việc, chuyển dữ liệu giữa các hệ thống và, trong các trường hợp nhạy cảm hơn, tương tác với hạ tầng tài chính. Điều này thay đổi bài toán an ninh. Một tiện ích mở rộng trình duyệt xấu đã có thể nguy hiểm rồi. Một Kỹ Năng AI xấu kết nối với tác nhân tự động có thể còn nguy hiểm hơn, vì tác nhân có thể thực hiện các hành động nhanh chóng và trong một bối cảnh mà người dùng không hoàn toàn thấy rõ. Kỹ Năng AI tạo ra rủi ro thực thi mới Kỹ Năng AI đang trở thành các plugin của nền kinh tế tác nhân. Chúng mở rộng khả năng của tác nhân AI, từ lấy dữ liệu và tự động hóa các nhiệm vụ đến thực hiện các hành động tài chính và tương tác với các giao thức Web3. Tuy nhiên, mỗi Kỹ Năng bổ sung cũng tạo ra một điểm có thể xảy ra sai sót. Rủi ro đó không chỉ giới hạn ở phần mềm độc hại rõ ràng. Một Kỹ Năng có thể yêu cầu nhiều dữ liệu hơn mức cần thiết, hành xử khác biệt trong quá trình thực thi so với khi xem xét, kích hoạt các cuộc gọi API trái phép hoặc âm thầm tạo điều kiện cho việc sử dụng sai sau này. Trong các môi trường tài chính, mối lo ngại còn trở nên rõ rệt hơn. Một công cụ có thể khởi tạo các cuộc gọi vốn, ký các yêu cầu quy trình làm việc hoặc chuẩn bị các giao dịch cần một mức độ kiểm tra khác so với một tiện ích mở rộng năng suất đơn thuần. CertiK cho biết Skill Scanner được xây dựng để phát hiện hành vi độc hại ẩn, truy cập dữ liệu trái phép và các rủi ro thực thi trước khi các hệ thống nhạy cảm bị phơi bày. Khác với các công cụ quét AI rộng hơn, công ty nói rằng sản phẩm của họ tập trung vào các rủi ro có thể xuất hiện trong quá trình thực thi thực tế, bao gồm các trường hợp liên quan đến chuyển động quỹ và giao dịch tài chính. Ronghui Gu, CEO và đồng sáng lập của CertiK, cho biết mô hình an ninh xung quanh các Kỹ Năng của bên thứ ba ngày càng trở nên quan trọng khi các tác nhân AI tiến vào các hệ thống tài chính, quy trình doanh nghiệp và dịch vụ kỹ thuật số hàng ngày.

“CertiK Skill Scanner được xây dựng để thiết lập một lớp tin cậy tiêu chuẩn trước khi thực thi, giúp người dùng và nền tảng xác định các rủi ro ẩn trước khi dữ liệu nhạy cảm, tài sản hoặc hệ thống bị phơi bày,” Gu nói.

Thị trường, doanh nghiệp và nhà phát triển là những nhóm đầu tiên Nhóm mục tiêu đầu tiên là các thị trường Kỹ Năng AI, doanh nghiệp và nhà phát triển. Các thị trường có thể tích hợp trình quét vào quy trình xuất bản của họ, để các Kỹ Năng được xem xét trước khi phát hành. Họ cũng có thể hiển thị các kết luận của CertiK như các chỉ số tin cậy cho người dùng quyết định có nên cài đặt Kỹ Năng của bên thứ ba hay không. Đối với các doanh nghiệp, trường hợp sử dụng mang tính phòng thủ hơn. Các công ty thử nghiệm tác nhân AI nội bộ cần một cách để đánh giá các Kỹ Năng của bên thứ ba trước khi chúng vào môi trường sản xuất hoặc tiếp xúc với dữ liệu khách hàng, hệ thống nội bộ hoặc các quy trình nhạy cảm về tuân thủ. Đó là nơi quy trình xem xét có điểm số trở nên hữu ích. Nó cung cấp cho nhóm an ninh một thứ gì đó cụ thể hơn so với lời khẳng định của nhà cung cấp hoặc mô tả của nhà phát triển. Các nhà phát triển độc lập cũng có thể sử dụng trình quét để tự kiểm tra các Kỹ Năng trước khi xuất bản. CertiK cho biết các cập nhật trong tương lai sẽ mở rộng quyền truy cập trực tiếp cho người dùng hàng ngày, cho phép cá nhân tự quét các Kỹ Năng trước khi cài đặt hoặc sử dụng. Trình quét tạo ra một điểm số từ 0 đến 100, cùng với các kết luận “đạt”, “cảnh báo” hoặc “không đạt” và danh sách các phát hiện được nhóm theo mức độ nghiêm trọng. CertiK nói rằng hệ thống đạt độ chính xác lên tới 90,5% trong việc xác định các rủi ro an ninh, nhằm giảm thiểu các kết quả dương tính giả trong khi làm cho các đánh giá về Kỹ Năng AI trở nên đáng tin cậy hơn. Sản phẩm đã được triển khai trong một số môi trường hạ tầng tác nhân AI Web3 nhất định. CertiK cũng đang làm việc về tích hợp với các nền tảng Kỹ Năng AI bổ sung, bao gồm FinChip.ai. Việc ra mắt này theo sau sự mở rộng rộng hơn của CertiK vào hạ tầng an ninh tập trung vào AI, sau khi công ty giới thiệu sáng kiến AI Auditor của mình đầu năm nay. Đối với một công ty nổi tiếng với các cuộc kiểm toán Web3, bước đi này là một phần mở rộng hợp lý. Khi các tác nhân AI bắt đầu xử lý mã, tài sản, quyền truy cập và quy trình kinh doanh, các kiểm tra an ninh cần diễn ra trước khi thực thi, chứ không phải sau khi hệ thống đã bị phơi bày.