Giám đốc điều hành Amazon: Doanh nghiệp chip trị giá 50 tỷ đô la, thế hệ thứ tư của Trainium đã được đăng ký đầy đủ

Theo giám sát của Beating, CEO Amazon Andy Jassy đã dành phần lớn cuộc gọi báo cáo lợi nhuận quý 1 để thảo luận về các chip tự phát triển. Ông cho biết nếu hoạt động kinh doanh chip này được tách ra và vận hành độc lập, giống như các công ty chip khác, doanh thu hàng năm sẽ đạt 50 tỷ đô la. Theo ông, hoạt động kinh doanh chip tự phát triển của Amazon đã lọt vào top ba trong các chip trung tâm dữ liệu toàn cầu, lưu ý rằng ‘đạt được tốc độ này là phi thường.’ Tình hình cung cầu của thế hệ thứ tư của Trainium (chip đào tạo AI tự phát triển của Amazon) như sau: Trainium2 đã bán hết; Trainium3, bắt đầu vận chuyển từ đầu năm nay, cung cấp hiệu năng chi phí tốt hơn 30% đến 40% so với Trainium2 và gần như đã hết chỗ đặt hàng; Trainium4, dự kiến không phổ biến trong khoảng 18 tháng tới, đã được đặt trước hơn một nửa số lượng; Jassy đề cập rằng Trainium đã tích lũy hơn 225 tỷ đô la cam kết doanh thu từ các hợp đồng đào tạo hàng tỷ watt với các công ty như Anthropic và OpenAI, cũng như các khách hàng doanh nghiệp như Uber. Jassy tính toán rằng việc sử dụng quy mô lớn Trainium cho suy luận có thể tiết kiệm hàng trăm tỷ đô la trong CapEx hàng năm so với dựa vào chip bên ngoài, với lợi thế biên lợi nhuận hoạt động đạt vài trăm điểm cơ bản. Phần lớn suy luận cho Amazon Bedrock (dịch vụ suy luận mô hình của AWS, được hơn 125.000 khách hàng sử dụng, trong đó gần 80% các công ty Fortune 100) đang chạy trên Trainium. Khi được hỏi liệu họ có bán các rack Trainium trực tiếp hay không, Jassy nói rằng họ cần cân bằng giữa việc đáp ứng nhu cầu khách hàng hiện tại và bán ra bên ngoài, nhưng ‘Tôi dự đoán chúng tôi có khả năng bắt đầu bán trong những năm tới.’ AWS có đơn hàng tồn đọng trị giá 364 tỷ đô la, chưa kể hợp đồng trị giá hơn 100 tỷ đô la được công bố bởi Anthropic tuần trước.