Tờ giấy này của Stanford và Harvard là lý do tại sao hầu hết các hệ thống “trí tuệ nhân tạo đại lý” lại cảm thấy ấn tượng trong các bài thuyết trình, rồi hoàn toàn sụp đổ khi được sử dụng trong thực tế.

Tên của nó là “Điều chỉnh trí tuệ nhân tạo đại lý”, và đây là bài báo quan trọng nhất tôi đã đọc trong năm nay.
Hiện tại, ai cũng say mê việc xây dựng các đại lý độc lập. Chúng tôi cung cấp cho chúng công cụ, bộ nhớ và một mục tiêu, và chúng tôi kỳ vọng chúng thực hiện các tác vụ của mình.
Nhưng khi triển khai chúng trong thế giới thực, chúng lại tưởng tượng ra việc gọi công cụ. Chúng thất bại trong việc lập kế hoạch dài hạn. Chúng bị treo.
Dưới đây là lý do:
Chúng tôi cố ép nhồi mọi thứ học được vào trong “não” của trí tuệ nhân tạo.
Khi các nhà phát triển cố sửa một đại lý bị hỏng, họ thường chỉ tinh chỉnh mô hình chính để tạo ra các câu trả lời cuối cùng tốt hơn.
Các nhà nghiên cứu đã phát hiện ra một lỗi chí mạng trong cách tiếp cận này.
Nếu bạn chỉ thưởng cho trí tuệ nhân tạo khi nó đưa ra câu trả lời cuối cùng đúng, nó sẽ lười biếng.
Nó học một cách máy móc là ngừng sử dụng công cụ của mình. Nó cố đoán câu trả lời thay vì làm việc. Nó bỏ qua máy tính và cố tính toán trong đầu.
Để khắc phục điều đó, các nhà nghiên cứu đã đưa ra một khung công việc mới gồm 4 phần về cách các đại lý thực sự học.
Và kết luận quan trọng nhất lật ngược hoàn toàn cách hiểu hiện tại.
Thay vì liên tục huấn luyện lại “bộ não” khổng lồ và tốn kém của đại lý, thì các hệ thống đáng tin cậy hơn lại làm ngược lại.
Chúng đóng băng bộ não. Và thích nghi với các công cụ.
Họ gọi đó là “thích nghi công cụ dưới sự giám sát của đại lý”.#GateSquareAprilPostingChallenge $BTC