CertiK Ra Mắt Trình Quét Kỹ Năng AI Cho Bảo Mật Tác Nhân

• CertiK đã ra mắt Skill Scanner, một sản phẩm bảo mật được xây dựng để đánh giá các Kỹ năng AI của bên thứ ba trước khi chúng được sử dụng bởi các tác nhân AI.
• Công cụ này nhắm vào các rủi ro như hành vi độc hại ẩn, truy cập dữ liệu trái phép và thực thi tự động trong môi trường Web3 và Web2.

CertiK đang tiến sâu hơn vào lĩnh vực bảo mật AI với việc ra mắt CertiK Skill Scanner, một sản phẩm được thiết kế để xem xét các Kỹ năng AI của bên thứ ba trước khi chúng được cài đặt, xuất bản hoặc phê duyệt để sử dụng trong các hệ thống doanh nghiệp. Công ty mô tả công cụ này như một lớp chống vi-rút cho kỷ nguyên tác nhân AI. Sự so sánh không hoàn hảo, nhưng nó đi thẳng vào vấn đề. Các tác nhân AI không còn chỉ trả lời câu hỏi trong cửa sổ trò chuyện. Chúng bắt đầu gọi các công cụ bên ngoài, đọc tệp, kích hoạt quy trình làm việc, di chuyển dữ liệu giữa các hệ thống và, trong các trường hợp nhạy cảm hơn, tương tác với cơ sở hạ tầng tài chính. Điều đó làm thay đổi phương trình bảo mật. Một tiện ích mở rộng trình duyệt xấu đã có thể nguy hiểm. Một Kỹ năng AI xấu được kết nối với một tác nhân tự động có thể còn tồi tệ hơn, bởi vì tác nhân có thể thực hiện các hành động với tốc độ và trong bối cảnh mà người dùng không thấy rõ. Kỹ năng AI tạo ra rủi ro thực thi mới Kỹ năng AI đang trở thành các plugin của nền kinh tế tác nhân. Chúng mở rộng những gì một tác nhân AI có thể làm, từ việc lấy dữ liệu và tự động hóa các tác vụ đến thực hiện các hành động tài chính và tương tác với các giao thức Web3. Tuy nhiên, mỗi Kỹ năng bổ sung cũng tạo ra một điểm khác mà ở đó mọi thứ có thể sai sót. Rủi ro đó không giới hạn ở phần mềm độc hại rõ ràng. Một Kỹ năng có thể yêu cầu nhiều dữ liệu hơn mức cần thiết, hoạt động khác trong quá trình thực thi so với khi xem xét, kích hoạt các lệnh gọi API trái phép hoặc âm thầm tạo điều kiện cho việc lạm dụng sau này. Trong môi trường tài chính, mối quan tâm thậm chí còn trở nên sắc bén hơn. Một công cụ có thể khởi tạo các lệnh gọi quỹ, ký các yêu cầu quy trình làm việc hoặc chuẩn bị các giao dịch cần một mức độ giám sát khác so với một tiện ích bổ sung năng suất đơn giản. CertiK cho biết Skill Scanner được xây dựng để phát hiện hành vi độc hại ẩn, truy cập dữ liệu trái phép và rủi ro thực thi trước khi các hệ thống nhạy cảm bị lộ. Không giống như các công cụ quét AI rộng hơn, công ty cho biết sản phẩm của họ tập trung vào các rủi ro có thể phát sinh trong quá trình thực thi thực tế, bao gồm các trường hợp liên quan đến chuyển động quỹ và giao dịch tài chính. Ronghui Gu, CEO và đồng sáng lập của CertiK, cho biết mô hình bảo mật xung quanh các Kỹ năng của bên thứ ba đang trở nên quan trọng hơn khi các tác nhân AI chuyển sang các hệ thống tài chính, quy trình làm việc doanh nghiệp và các dịch vụ kỹ thuật số hàng ngày.

“CertiK Skill Scanner được xây dựng để thiết lập một lớp tin cậy chuẩn hóa trước khi thực thi, giúp người dùng và nền tảng xác định các rủi ro ẩn trước khi dữ liệu, tài sản hoặc hệ thống nhạy cảm bị lộ,” Gu cho biết.

Thị trường, doanh nghiệp và nhà phát triển là những đối tượng đầu tiên Các nhóm mục tiêu đầu tiên là thị trường Kỹ năng AI, doanh nghiệp và nhà phát triển. Các thị trường có thể tích hợp máy quét vào quy trình xuất bản của họ, để các Kỹ năng được xem xét trước khi đi vào hoạt động. Họ cũng có thể hiển thị các phán quyết của CertiK như các chỉ số tin cậy cho người dùng quyết định có cài đặt Kỹ năng của bên thứ ba hay không. Đối với doanh nghiệp, trường hợp sử dụng mang tính phòng thủ hơn. Các công ty thử nghiệm các tác nhân AI nội bộ cần một cách để đánh giá các Kỹ năng của bên thứ ba trước khi chúng đi vào môi trường sản xuất hoặc chạm đến dữ liệu khách hàng, hệ thống nội bộ hoặc các quy trình làm việc nhạy cảm với tuân thủ. Đó là nơi một quy trình xem xét có điểm số trở nên hữu ích. Nó cung cấp cho các nhóm bảo mật thứ gì đó cụ thể hơn một tuyên bố từ nhà cung cấp hoặc mô tả từ nhà phát triển. Các nhà phát triển độc lập cũng có thể sử dụng máy quét để tự kiểm tra các Kỹ năng trước khi xuất bản. CertiK cho biết các bản cập nhật trong tương lai sẽ mở rộng quyền truy cập trực tiếp cho người dùng hàng ngày, cho phép các cá nhân tự quét các Kỹ năng trước khi cài đặt hoặc sử dụng. Máy quét tạo ra điểm số từ 0 đến 100, cùng với các phán quyết “đạt,” “cảnh báo” hoặc “không đạt” và một danh sách giới hạn các phát hiện được nhóm theo mức độ nghiêm trọng. CertiK cho biết hệ thống đạt độ chính xác lên tới 90,5% trong việc xác định rủi ro bảo mật, với mục tiêu giảm các kết quả dương tính giả trong khi làm cho các đánh giá Kỹ năng AI đáng tin cậy hơn. Sản phẩm này đã được triển khai trong một số môi trường cơ sở hạ tầng tác nhân AI Web3 được chọn. CertiK cũng đang làm việc trên các tích hợp với các nền tảng Kỹ năng AI bổ sung, bao gồm FinChip.ai. Việc ra mắt này diễn ra sau khi CertiK mở rộng rộng rãi hơn vào cơ sở hạ tầng bảo mật tập trung vào AI, sau khi công ty giới thiệu sáng kiến AI Auditor của mình vào đầu năm nay. Đối với một công ty nổi tiếng nhất với các cuộc kiểm toán Web3, động thái này là một sự mở rộng hợp lý. Khi các tác nhân AI bắt đầu xử lý mã, tài sản, quyền và quy trình làm việc kinh doanh, các kiểm tra bảo mật cần phải diễn ra trước khi thực thi, không phải sau khi một hệ thống đã bị lộ.