Các Tác Nhân AI Doanh Nghiệp Cần Kiểm Tra Áp Lực, Không Phải Các Bài Quảng Cáo

Abhishek Saxena, Trưởng bộ phận Chiến lược và Phát triển, Sentient.

FinTech phát triển nhanh chóng. Tin tức tràn lan, sự rõ ràng thì không.

FinTech Weekly cung cấp các câu chuyện và sự kiện chính trong một nơi.

Nhấn vào đây để đăng ký nhận bản tin FinTech Weekly

Được các giám đốc điều hành tại JP Morgan, Coinbase, BlackRock, Klarna và nhiều nơi đọc.

AI doanh nghiệp đang gặp vấn đề về độ tin cậy mà không có marketing nào có thể giải quyết được. Các công ty bắt đầu triển khai các đại lý tự động vào môi trường sản xuất, nơi một quyết định sai có thể gây vi phạm quy định, thất bại trong thanh toán, lỗi giao dịch, thiệt hại tài chính hoặc khủng hoảng uy tín. Tuy nhiên, tiêu chuẩn đánh giá xem một đại lý đã sẵn sàng cho sản xuất vẫn chủ yếu là một buổi trình diễn ấn tượng trên sân khấu.

Ra mắt NemoClaw của Nvidia tuần này cho thấy các đại lý tự động đang chuyển từ thử nghiệm sang quy trình làm việc của doanh nghiệp nhanh như thế nào. Nền tảng này bổ sung các kiểm soát an ninh và quyền riêng tư quan trọng, bao gồm sandboxing và các giới hạn chính sách. Nhưng triển khai an toàn không giống như sẵn sàng cho sản xuất. Câu hỏi khó hơn là liệu các hệ thống này đã được kiểm tra để hoạt động đáng tin cậy dưới điều kiện mơ hồ, các trường hợp ngoại lệ và áp lực quy định chưa.

Xây dựng một đại lý có thể hoàn thành nhiệm vụ trong môi trường kiểm soát là khá đơn giản. Xây dựng một đại lý có thể xử lý mơ hồ, phục hồi từ các đầu vào bất ngờ, duy trì tính nhất quán qua hàng nghìn tương tác đồng thời, và làm tất cả mà không vi phạm quy định là một vấn đề kỹ thuật hoàn toàn khác.

Sự khác biệt này chính là nơi nhiều triển khai doanh nghiệp gặp rắc rối. Khoảng cách giữa hiệu suất trình diễn và độ tin cậy khi vận hành thực tế lớn hơn nhiều so với dự kiến của hầu hết các nhóm.

Một đại lý xử lý yêu cầu hỗ trợ khách hàng hoàn hảo trong thử nghiệm có thể tưởng tượng ra chính sách hoàn tiền không tồn tại khi đối mặt với một trường hợp ngoại lệ chưa từng gặp. Một đại lý quản lý quy trình tài chính có thể hoạt động tốt trên dữ liệu lịch sử nhưng lại đưa ra quyết định thảm họa khi điều kiện thị trường thay đổi ngoài phân phối đào tạo của nó. Một đại lý logistics điều phối chuỗi cung ứng có thể thành công trong mô phỏng nhưng gặp khó khăn khi các trì hoãn thực tế và tín hiệu mâu thuẫn bắt đầu cộng dồn.

Bất kỳ ai đã thử nghiệm đại lý qua các môi trường thử thách đều nhận ra các mẫu này nhanh chóng. Các hệ thống hoạt động—cho đến khi gặp phải loại mơ hồ và áp lực định nghĩa hoạt động thực tế.

Đây là lý do tại sao sự tập trung hiện tại của ngành vào việc xây dựng nhiều khung đại lý hơn bỏ lỡ một phần quan trọng của câu đố. Thực tế, nút thắt không phải là các công ty có thể tạo ra đại lý nhanh như thế nào. Mà là họ có thể đánh giá chúng một cách tự tin trước khi giao trách nhiệm thực sự cho các đại lý đó.

AI doanh nghiệp cần một hạ tầng kiểm tra căng thẳng nghiêm ngặt, có hệ thống, được thiết kế đặc biệt cho các hệ thống tự động. Điều đó có nghĩa là chủ đích đưa vào các loại đầu vào gây lỗi cho đại lý trong quá trình vận hành. Nó còn nghĩa là đánh giá cách các đại lý phản ứng dưới điều kiện không chắc chắn, thông tin mâu thuẫn và các trường hợp ngoại lệ không xuất hiện trong bộ dữ liệu chuẩn. Và còn nữa, là liên tục đánh giá, chứ không phải chỉ một lần kiểm tra trước khi ra mắt.

Phương pháp mã nguồn mở NemoClaw là bước đi đúng hướng vì nó cung cấp khả năng nhìn thấy cách các đại lý hoạt động. Bạn không thể kiểm tra đúng một hộp đen. Nhưng khả năng nhìn thấy thôi là chưa đủ. Hạ tầng kiểm tra cần phải phát triển cùng với các hệ thống mà nó đánh giá.

Phát triển đại lý nên giả định rằng các chế độ thất bại là không thể tránh khỏi và phải được phát hiện sớm. Mục tiêu không phải là chứng minh rằng một đại lý hoạt động tốt một lần, mà là hiểu cách nó phản ứng khi điều kiện trở nên không thể dự đoán. Tư duy này thay đổi cách đánh giá đại lý, cách thiết kế các giới hạn an toàn, và cách chuẩn bị hệ thống cho triển khai trong môi trường có rủi ro cao.

Nguy cơ sẽ chỉ tăng lên khi các đại lý chuyển từ các nhiệm vụ riêng lẻ sang quy trình làm việc toàn diện. Các doanh nghiệp đã bắt đầu khám phá các đại lý đàm phán hợp đồng, thực hiện giao dịch tài chính, điều phối chuỗi cung ứng và quản lý các quy trình vận hành phức tạp. Khi các hệ thống này hoạt động qua nhiều điểm quyết định, một sai sót nhỏ có thể nhanh chóng gây ra chuỗi phản ứng dây chuyền.

Một đại lý hỗ trợ khách hàng thất bại sẽ mất một ticket. Một đại lý tài chính thất bại có thể mất vốn. Một đại lý vận hành thất bại có thể trì hoãn toàn bộ dây chuyền sản xuất.
Các công ty cuối cùng thành công với AI doanh nghiệp sẽ không phải là những công ty triển khai đại lý đầu tiên. Mà là những công ty triển khai đại lý mà họ thực sự có thể tin tưởng.

Sự tin tưởng không phải là một tính năng bạn thêm vào cuối quá trình phát triển. Đó là một ngành kỹ thuật—bắt đầu từ cách hệ thống được kiểm tra, cách hành vi của chúng được đánh giá dưới áp lực, và cách hiểu các chế độ thất bại của chúng từ rất sớm, trước khi chúng tiếp xúc với khối lượng công việc thực tế.

Nvidia đang cung cấp cho các doanh nghiệp các công cụ mạnh mẽ để xây dựng đại lý tự động. Câu hỏi khó hơn—và cũng là câu hỏi quyết định thành bại của các hệ thống này trong thế giới thực—là liệu các tổ chức có đầu tư công bằng vào hạ tầng cần thiết để chứng minh các đại lý đó đã sẵn sàng hay chưa.