Hàng nghìn chip NVIDIA Blackwell để cung cấp năng lượng cho AI của Akamai tại biên

Akamai (NASDAQ: AKAM) đã công bố việc triển khai hàng ngàn GPU NVIDIA Blackwell để thiết lập một nền tảng suy luận AI phân tán toàn cầu.
Sáng kiến này nhằm định tuyến các khối lượng công việc suy luận đến các cụm GPU tối ưu hóa, địa phương hóa trên toàn bộ mạng lưới toàn cầu rộng lớn của Akamai với hơn 4.400 địa điểm, giảm đáng kể độ trễ lên đến 2,5 lần và có khả năng cắt giảm chi phí suy luận AI lên đến 86% so với hạ tầng hyperscaler truyền thống.
Động thái này hỗ trợ việc chuyển đổi từ đào tạo mô hình AI tập trung sang suy luận phi tập trung, giải quyết độ trễ như một rào cản chính đối với việc triển khai AI trên quy mô lớn.