AT&T giảm 56% chi phí viết mã bằng AI nhờ công nghệ định tuyến mô hình
AT&T đã triển khai công nghệ định tuyến mô hình thông qua LiteLLM để chuyển các truy vấn thường nhật của nhân viên sang những mô hình AI nguồn mở có chi phí thấp hơn, qua đó giảm 56% chi phí viết mã bằng AI trong khi chất lượng hiệu suất chỉ giảm 2%. Gã khổng lồ viễn thông này xử lý khoảng 45Bỷ token mỗi ngày thông qua nền tảng nội bộ “Ask AT&T”, trong đó các mô hình nguồn mở hiện xử lý khoảng 40% truy vấn AI của nhân viên. Phó chủ tịch AT&T Mark Austin nhận định rằng các mô hình nguồn mở đang t
OliverGrant·08-22 02:47
