Vừa mới nghe về một điều gì đó khiến tôi bực mình liên quan đến cách các doanh nghiệp xử lý rủi ro AI, và có vẻ như Premetric cuối cùng đã giải quyết trực diện vấn đề này.

Vì vậy, đây là khoảng trống mà không ai nói đến: hầu hết các khung quản trị AI về cơ bản đều đang bắt kịp. Các tổ chức xây dựng mô hình của họ, triển khai vào sản phẩm, rồi đột nhiên bắt đầu lo lắng về tuân thủ và rủi ro. Đến lúc đó, những quyết định lớn nhất đã được khóa chặt rồi. Premetric đang đảo ngược hoàn toàn kịch bản đó bằng cách tập trung vào quyết định trước khi triển khai - về cơ bản là hỏi xem một hệ thống AI có nên tồn tại hay không trước khi viết một dòng mã nào.

Nền tảng này hoạt động như một cơ chế kiểm soát. Thay vì kiểm tra sau khi đã xảy ra, nó thực hiện các đánh giá rủi ro có cấu trúc phù hợp với các khung như Luật AI của EU và Khung Quản lý Rủi ro AI của NIST. Bạn có các quy trình đánh giá nhiều giai đoạn phân loại các trường hợp sử dụng theo mức độ rủi ro, cảnh báo các tác hại tiềm ẩn, và tạo ra các hồ sơ quyết định có thể kiểm tra được. Nó được thiết kế để tích hợp vào các quy trình sản phẩm và tuân thủ hiện có, điều này quan trọng vì không ai muốn thêm một công cụ rời rạc nữa.

Điều thú vị là nơi điều này đang gây tiếng vang. Những người tiên phong trong dịch vụ tài chính và chăm sóc sức khỏe dường như đang tìm thấy giá trị thực sự - đây là những ngành đang ngập trong các yêu cầu pháp lý. Một cựu trưởng bộ phận quản trị AI tại một ngân hàng châu Âu lớn đã lưu ý rằng trong khi họ có quy trình xác nhận mô hình vững chắc, thì không có gì thực sự giúp họ quyết định xem một trường hợp sử dụng có nên tiến hành hay không ban đầu. Premetric chính xác là lấp đầy khoảng trống đó.

Thời điểm này cũng hợp lý. Các nhà quản lý trên toàn thế giới đang thúc đẩy các khung quản trị AI chính thức, nhưng chi tiết thực thi lại do chính các tổ chức tự thực hiện. Có một sự đồng thuận ngày càng tăng rằng quản trị trước khi triển khai là một lĩnh vực riêng biệt - tách biệt khỏi các hệ thống giám sát và kiểm tra đã hoạt động. Các nhà cung cấp có thể vận hành các quyết định go/no-go theo cách có thể kiểm tra được và có cấu trúc sẽ trở thành hạ tầng thiết yếu cho việc áp dụng AI trong doanh nghiệp.

Đáng để theo dõi khi cảnh quan quản trị AI trưởng thành hơn. Premetric rõ ràng đang đặt cược rằng các tổ chức sẽ ngày càng cần chứng minh không chỉ rằng hệ thống AI của họ tuân thủ, mà còn rằng chúng được hình thành một cách có trách nhiệm ngay từ đầu.