NetEase Youdao ra mắt nền tảng ThinkFlow, thực hiện trực quan hóa Token toàn chuỗi

Thông tin từ Mars Finance, NetEase Youdao gần đây đã ra mắt nền tảng tổng hợp mô hình lớn doanh nghiệp ThinkFlow. Nền tảng này nhằm giải quyết vấn đề tiêu chuẩn hóa trong việc sản xuất token, phân phối, tính phí và tối ưu hóa hiệu suất khi doanh nghiệp đối mặt với nguồn cung mô hình lớn phân mảnh. Thông qua API tiêu chuẩn, cho phép doanh nghiệp kết nối một lần để gọi hơn 20 mô hình lớn chính như DeepSeek, Kimi, Qwen, MiniMax, mà không cần viết lại mã khi chuyển đổi mô hình ở phía doanh nghiệp. Nền tảng tích hợp cơ chế định tuyến thông minh và cân bằng tải, hỗ trợ chuyển đổi lỗi và giảm tải trong vòng mili giây. ThinkFlow còn cung cấp bảng điều khiển trực quan hóa toàn bộ chu trình tiêu thụ token, chính xác đến từng yêu cầu đơn lẻ của việc gọi mô hình lớn.