AMD Đạt Kết Quả Đột Phá Trong Thử Nghiệm MLPerf Inference 6.0

robot
Đang tạo bản tóm tắt

Bài nộp MLPerf Inference 6.0 mới nhất của AMD cho thấy những tiến bộ đáng kể với các GPU Instinct MI355X của hãng, vượt 1 triệu token mỗi giây ở quy mô đa nút và mở rộng sang các tác vụ mới như tạo video từ văn bản. Kết quả cho thấy hiệu năng cạnh tranh trên một nút so với các GPU NVIDIA B200 và B300, khả năng mở rộng hiệu quả theo mô hình scale-out và khả năng tái tạo rộng rãi trong hệ sinh thái, phần lớn nhờ vào ngăn xếp phần mềm AMD ROCm. Những thành tựu này đặt AMD vào vị thế là một đối thủ mạnh trong thị trường suy luận AI tạo sinh, với lộ trình rõ ràng cho các dòng GPU Instinct trong tương lai và các giải pháp theo quy mô rack.

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Ghim