Các tác nhân AI doanh nghiệp cần kiểm tra căng thẳng, không phải lời chào hàng.

Abhishek Saxena, Trưởng bộ phận Chiến lược và Tăng trưởng, Sentient.

FinTech diễn biến nhanh. Tin tức ở khắp nơi, nhưng sự rõ ràng thì không.

FinTech Weekly mang đến những câu chuyện và sự kiện chính trong một nơi.

Nhấp vào đây để đăng ký Bản tin của FinTech Weekly

Được đọc bởi các giám đốc điều hành tại JP Morgan, Coinbase, BlackRock, Klarna và nhiều hơn nữa.

AI doanh nghiệp có một vấn đề về lòng tin mà không lượng tiếp thị nào có thể giải quyết. Các công ty đang bắt đầu triển khai các tác nhân tự trị vào môi trường sản xuất, nơi một quyết định sai lầm duy nhất có thể gây ra vi phạm tuân thủ, thanh toán thất bại, lỗi giao dịch, tổn thất tài chính hoặc khủng hoảng danh tiếng. Và tuy nhiên, tiêu chuẩn của ngành để đánh giá liệu một tác nhân đã sẵn sàng cho sản xuất vẫn hiệu quả là một bản demo trông ấn tượng trên sân khấu.

Ra mắt NemoClaw của Nvidia trong tuần này báo hiệu mức độ nhanh chóng mà các tác nhân tự trị đang chuyển từ thử nghiệm sang quy trình làm việc doanh nghiệp. Nền tảng này bổ sung các kiểm soát bảo mật và quyền riêng tư quan trọng, bao gồm sandboxing và lan can chính sách. Nhưng triển khai an toàn không giống với sự sẵn sàng sản xuất. Câu hỏi khó hơn là liệu các hệ thống này đã được kiểm tra để hoạt động đáng tin cậy dưới sự mơ hồ, các trường hợp ngoại lệ và áp lực pháp lý hay chưa.

Xây dựng một tác nhân có thể hoàn thành một nhiệm vụ trong môi trường kiểm soát là tương đối đơn giản. Xây dựng một tác nhân có thể xử lý sự mơ hồ, phục hồi từ các đầu vào bất ngờ, duy trì tính nhất quán qua hàng nghìn tương tác đồng thời, và làm tất cả điều này mà không vi phạm các ràng buộc pháp lý là một vấn đề kỹ thuật rất khác.

Sự khác biệt đó là nơi nhiều triển khai doanh nghiệp gặp rắc rối. Khoảng cách giữa hiệu suất demo và độ tin cậy sản xuất rộng hơn hầu hết các đội ngũ mong đợi.

Một tác nhân xử lý truy vấn hỗ trợ khách hàng hoàn hảo trong kiểm thử có thể ảo giác về một chính sách hoàn tiền không tồn tại khi đối mặt với một trường hợp ngoại lệ chưa từng thấy. Một tác nhân quản lý quy trình làm việc tài chính có thể hoạt động hoàn hảo trên dữ liệu lịch sử nhưng đưa ra các quyết định thảm khốc khi điều kiện thị trường thay đổi ngoài phân phối đào tạo của nó. Một tác nhân logistics điều phối chuỗi cung ứng có thể thành công trong mô phỏng nhưng gặp khó khăn khi sự chậm trễ và tín hiệu xung đột trong thế giới thực bắt đầu chồng chất.

Bất kỳ ai đã chạy các tác nhân qua môi trường kiểm thử đối kháng sẽ nhanh chóng nhận ra các mô hình này. Các hệ thống hoạt động—cho đến khi chúng gặp phải loại mơ hồ và áp lực xác định các hoạt động thực tế.

Đây là lý do tại sao sự tập trung hiện tại của ngành vào việc xây dựng nhiều khung tác nhân hơn bỏ lỡ một mảnh ghép quan trọng. Nút thắt thực sự không phải là các công ty có thể tạo ra tác nhân nhanh như thế nào. Mà là họ có thể đánh giá chúng một cách tự tin như thế nào trước khi các tác nhân đó được giao trách nhiệm thực tế.

Những gì AI doanh nghiệp cần là cơ sở hạ tầng kiểm thử căng thẳng có hệ thống và nghiêm ngặt được thiết kế dành riêng cho các hệ thống tự trị. Điều đó có nghĩa là cố tình đưa vào các loại đầu vào làm hỏng tác nhân trong sản xuất. Nó có nghĩa là đánh giá cách tác nhân hành xử dưới sự không chắc chắn, thông tin xung đột và các trường hợp ngoại lệ không xuất hiện trong các bộ dữ liệu chuẩn sạch. Và nó có nghĩa là đánh giá liên tục, không phải một lần kiểm tra trước khi ra mắt.

Cách tiếp cận mã nguồn mở của NemoClaw là một bước đi đúng hướng vì nó cung cấp cho nhà phát triển khả năng quan sát cách các tác nhân hoạt động. Bạn không thể kiểm tra đúng cách một hộp đen. Nhưng chỉ khả năng quan sát thôi là chưa đủ. Cơ sở hạ tầng kiểm thử tự nó cần phải phát triển cùng với các hệ thống mà nó đánh giá.

Phát triển tác nhân nên giả định rằng các chế độ thất bại là không thể tránh khỏi và phải được phát hiện sớm. Mục tiêu không phải là chứng minh rằng một tác nhân hoạt động một lần, mà là hiểu cách nó hành xử khi các điều kiện trở nên khó đoán. Tư duy đó thay đổi cách các tác nhân được đánh giá, cách các lan can được thiết kế và cách các hệ thống được chuẩn bị để triển khai trong các môi trường có rủi ro cao.

Các rủi ro sẽ chỉ tăng lên khi các tác nhân chuyển từ các nhiệm vụ riêng lẻ sang quy trình làm việc từ đầu đến cuối. Các doanh nghiệp đã đang khám phá các tác nhân đàm phán hợp đồng, thực hiện giao dịch tài chính, điều phối chuỗi cung ứng và quản lý các quy trình vận hành phức tạp. Khi các hệ thống này hoạt động qua nhiều điểm quyết định, tác động của một sai lầm duy nhất có thể nhanh chóng lan truyền.

Một tác nhân hỗ trợ khách hàng thất bại sẽ mất một vé. Một tác nhân tài chính thất bại có thể mất vốn. Một tác nhân vận hành thất bại có thể làm chậm toàn bộ dây chuyền sản xuất.
Các công ty cuối cùng thành công với AI doanh nghiệp sẽ không phải là những công ty triển khai tác nhân đầu tiên. Họ sẽ là những công ty triển khai các tác nhân mà họ thực sự có thể tin tưởng.

Lòng tin không phải là một tính năng bạn thêm vào cuối quá trình phát triển. Nó là một kỷ luật kỹ thuật—một kỷ luật bắt đầu với cách các hệ thống được kiểm tra, cách hành vi của chúng được đánh giá dưới áp lực và cách các chế độ thất bại của chúng được hiểu rõ từ lâu trước khi chúng chạm vào khối lượng công việc sản xuất.

Nvidia đang cung cấp cho các doanh nghiệp các công cụ mạnh mẽ để xây dựng các tác nhân tự trị. Câu hỏi khó hơn—và là câu hỏi sẽ quyết định liệu các hệ thống này có thành công trong thế giới thực hay không—là liệu các tổ chức có đầu tư tương đương vào cơ sở hạ tầng cần thiết để chứng minh các tác nhân đó đã sẵn sàng hay không.

Về tác giả

Abhishek Saxena là Trưởng bộ phận Chiến lược và Tăng trưởng tại Sentient, một nền tảng AI mã nguồn mở xây dựng cơ sở hạ tầng cho các tác nhân tự trị đáng tin cậy. Trước đó, Abhishek đã đảm nhiệm các vai trò tại Polygon Technology, Apple và InMobi, và có bằng MBA từ Trường Kinh doanh Harvard.