Phân vai trò riêng, yêu cầu báo cáo tuần, Anthropic làm thế nào để giao việc cho AI?

Theo giám sát của Động Sát Beating, Anthropic gần đây đã công bố kinh nghiệm kỹ thuật vận hành đội ngũ cộng tác người-máy trong nhiều tháng qua. Nhiều nhân viên cùng nhiều tác nhân thông minh có chứng chỉ hệ thống độc lập làm việc chung trên Slack. Các tác nhân thông minh được gắn trực tiếp vào danh sách nhóm và chuỗi giao tiếp, giống như nhân viên con người, có phân công nhiệm vụ rõ ràng và tự chủ thúc đẩy dự án.

Để giúp các tác nhân thông minh hòa nhập hiệu quả vào nhóm, công việc được mặc định công khai hoàn toàn. Vì các tác nhân thông minh hoàn toàn phụ thuộc vào văn bản có thể truy xuất để hiểu ngữ cảnh, công ty thiết lập ranh giới bảo mật ở cấp độ không gian làm việc và mặc định mở hoàn toàn cho các tác nhân thông minh, tránh các quyết định ủy quyền tài liệu đơn lẻ phức tạp. Nhóm phân bổ vai trò riêng cho các tác nhân thông minh khác nhau bằng cách viết tệp kỹ năng (Skill files) (ví dụ: cho một tác nhân thông minh cụ thể làm quản lý phát hành phần mềm), ngăn chặn nhân viên chạy AI cá nhân dẫn đến phân mảnh thông tin nhóm.

Quyền tự chủ của tác nhân thông minh tỷ lệ thuận với độ tin cậy thể hiện. Trong thực tế, có trưởng phòng kỹ thuật đã cử tác nhân thông minh sửa lỗi độc lập 500 lỗi và yêu cầu tác nhân thông minh nộp báo cáo phản ánh hàng tuần bao gồm sai sót và bài học để tránh tái phạm. Để giảm thiểu rủi ro, nhóm sử dụng cơ chế xác nhận kép (Doer-Verifier), trong đó một tác nhân thông minh kiểm tra lại công việc của tác nhân thông minh khác. Khi các tác nhân thông minh nhận được đủ tin tưởng và hoạt động độc lập, nhóm còn huấn luyện và hướng dẫn các tác nhân thông minh học cách tiết kiệm sự chú ý của con người, bằng cách kết hợp các câu hỏi hàng ngày, thiết lập hàng rào bảo vệ khối lượng công việc, đảm bảo đội ngũ người-máy vận hành bền vững.