Ant Financial Science and Technology Trung Quán Viện diễn đàn phát biểu: Hiệu quả của Token sẽ là chỉ số cốt lõi để đánh giá giá trị AI doanh nghiệp cấp cao

Việc các tác nhân tự hành (autonomous agents) thông minh như OpenClaw bùng nổ cho thấy các ứng dụng AI đang tăng tốc chuyển dịch từ “tương tác hội thoại” sang “thực thi tác vụ”. Trong khi doanh nghiệp đang tăng tốc đón nhận, họ cũng phải đối mặt với nhiều thách thức như lãng phí năng lực tính toán, an toàn tuân thủ và các vấn đề đa chiều khác. Làm thế nào để tác nhân thông minh thực sự triển khai quy mô hóa và bền vững, trở thành chủ đề cốt lõi mà toàn ngành cùng quan tâm.

Ngày 26 tháng 3, tại Diễn đàn đổi mới phát triển ngành tương lai thuộc Diễn đàn Trung Quan Thôn, Tổng giám đốc bộ phận đổi mới công nghệ mô hình lớn của Ant (蚂蚁数科) là Chương Bành cho biết trong bài phát biểu rằng, sự bùng nổ của OpenClaw sẽ mang lại một cuộc cách mạng về mô hình AI cấp doanh nghiệp, thúc đẩy việc triển khai mô hình lớn trong bối cảnh công nghiệp từ “cuộc đua tham số” sang “cuộc cạnh tranh hiệu năng theo Token”.

Tổng giám đốc bộ phận đổi mới công nghệ mô hình lớn của Ant (蚂蚁数科) là Chương Bành phát biểu tại Diễn đàn Trung Quan Thôn

Sự phổ biến nhanh chóng của các tác nhân thông minh kiểu OpenClaw phản ánh nhu cầu của thị trường đối với các tác nhân tự hành, nhưng trong môi trường công nghiệp thực tế, việc triển khai lại đối mặt với những thách thức đáng kể: do thiếu sự hiểu biết sâu về quy tắc ngành và quy trình nghiệp vụ, khi thực thi các tác vụ phức tạp, các tác nhân thường lặp lại việc gọi công cụ, dẫn đến lượng tiêu hao Token cao hơn rất nhiều so với đầu ra có hiệu quả. Theo tìm hiểu, trong một số kịch bản gọi với tần suất cao, chi phí tiêu hao Token của OpenClaw có thể lên tới hàng chục lần thậm chí gấp hàng trăm lần chi phí của Agent tích hợp. Mô hình chi phí đầu tư cao nhưng đầu ra thấp này khiến nó gặp vấn đề về tính bền vững trong các ứng dụng quy mô hóa của ngành.

“Ở nửa sau của việc triển khai mô hình lớn trong công nghiệp, mệnh đề cốt lõi không phải là cạnh tranh về quy mô tham số của mô hình, mà là việc cải thiện liên tục hiệu năng theo Token trên một đơn vị.” Chương Bành cho rằng, doanh nghiệp nên kết hợp bối cảnh và nhu cầu thực tế, lựa chọn giải pháp AI kết hợp mô hình lớn và mô hình nhỏ, để đạt được giá trị nghiệp vụ cao hơn với chi phí năng lực tính toán thấp hơn.

Lấy bối cảnh tài chính làm ví dụ, lĩnh vực này mỗi ngày phải xử lý một lượng lớn các tác vụ có tần suất cao và độ trễ thấp—nhận diện ý định nhanh chóng, trích xuất thông tin then chốt, truy xuất sắp xếp, v.v. Những tác vụ này có yêu cầu về mức độ song song cao, phản hồi nhanh và độ chính xác cao. Các mô hình suy luận quy mô lớn theo hướng truyền thống có năng lực mạnh mẽ, nhưng trong các bối cảnh này giống như “dùng dao mổ trâu để mổ gà”, chi phí cao, phản hồi chậm và lãng phí tài nguyên.

“Thứ mà ngành thực sự cần là, trong điều kiện đảm bảo chuyên nghiệp, chặt chẽ và tuân thủ, đạt được các giải pháp AI tối ưu về hiệu quả chi phí và tốc độ phản hồi.” Chương Bành cho biết. Ông cho rằng, mô hình tham số lớn có hiệu quả tốt hơn trong suy luận phức tạp và phân tích sâu; còn mô hình tham số nhỏ thì ở các kịch bản tác vụ tần suất cao và tác vụ nhỏ lại có độ trễ thấp hơn và hiệu quả chi phí cao hơn. Ngành cần các giải pháp kết hợp mô hình lớn và mô hình nhỏ để giải quyết vấn đề của bối cảnh thực tế một cách hiệu quả với chi phí thấp hơn.

Tại Diễn đàn Trung Quan Thôn, Ant (蚂蚁数科) đã công bố mô hình chuyên dụng tài chính hạng nhẹ Ling-DT-Fin-Mini-2.5. Đây là mẫu đầu tiên của dòng mô hình lớn Ling DT. Theo giới thiệu, Ling DT Fin Mini 2.5 là một mô hình MoE hạng nhẹ, dựa trên kiến trúc chú ý tuyến tính lai mới nhất của Ling 2.5, được tối ưu cho các kịch bản tác vụ tài chính với tần suất cao và độ trễ thấp. Trong khi vẫn duy trì chiều sâu chuyên môn, nó có thể nén chi phí suy luận xuống mức có thể triển khai theo quy mô. So với các mô hình phổ dụng cùng năng lực chủ đạo trong ngành, tốc độ suy luận nhanh hơn 100%, chi phí phần cứng để xử lý cùng lượng tác vụ giảm đáng kể, mang lại giá trị thiết thực về giảm chi phí và tăng hiệu quả cho các tổ chức tài chính.

Trên thực tế, khi các tác nhân AI tăng tốc thâm nhập vào các bối cảnh cốt lõi của ngành và thực thi các tác vụ thực, việc kết hợp mô hình lớn và mô hình nhỏ đã trở thành xu hướng của ngành. Gần đây, OpenAI cũng lần lượt giới thiệu hai mô hình nhỏ GPT‑5.4 mini và nano, tập trung vào độ trễ thấp và hiệu quả chi phí cao, đóng vai trò là lực lượng chính của các tác nhân thông minh ở lớp thực thi.

Chương Bành cho rằng, sự phát triển công nghệ cuối cùng sẽ quay về yêu cầu lý tính về hiệu suất từ phía ngành; trong cuộc cạnh tranh ở giai đoạn tiếp theo, hiệu năng theo Token sẽ trở thành chỉ số cốt lõi để đo lường giá trị AI cấp doanh nghiệp. Ant (蚂蚁数科) sẽ tiếp tục tập trung phát triển AGI cấp doanh nghiệp, và tiếp tục cho ra mắt mô hình lớn Ling DT phiên bản Bách Linh cho doanh nghiệp cùng với phiên bản theo ngành, đẩy nhanh việc triển khai quy mô hóa các tác nhân thông minh trong các bối cảnh phức tạp cấp doanh nghiệp.

Nhiều thông tin phong phú, phân tích chính xác—tất cả có trên ứng dụng Sina Finance