NVIDIA ra mắt nền tảng DSX, tiếp tục tiến vào cơ sở hạ tầng nhà máy AI

Sắp xếp: Dữ liệu Jin10

NVIDIA (NVDA.O) đã công bố nền tảng NVIDIA DSX tại Hội nghị GTC Taipei tổ chức tại Đài Bắc, Trung Quốc, mở rộng phạm vi hoạt động của mình sang lĩnh vực hạ tầng nhà máy AI.

Khác với quá khứ tập trung vào bán GPU, DSX cố gắng cung cấp cho doanh nghiệp giải pháp nhà máy AI toàn diện từ thiết kế, mô phỏng, triển khai đến quản lý vận hành.

Khi quy mô mô hình AI ngày càng lớn, thách thức đối với trung tâm dữ liệu không chỉ là hiệu suất chip mà còn liên quan đến cung cấp điện, khả năng làm mát, điều phối tài nguyên và hiệu quả vận hành tổng thể. NVIDIA cho rằng, trong tương lai, các chỉ số cạnh tranh của ngành AI sẽ dần chuyển từ hiệu suất từng chip sang hiệu quả hạ tầng tổng thể, tức là làm thế nào để sản xuất nhiều sức mạnh tính toán và dịch vụ thông minh hơn trong điều kiện hạn chế về điện năng, không gian và tài nguyên.

Vì vậy, nền tảng DSX tích hợp các chip, hệ thống, phần mềm, kiến trúc tham khảo và công nghệ của các đối tác, bao phủ toàn bộ vòng đời xây dựng và vận hành nhà máy AI. Nền tảng này thông qua việc thống nhất các công nghệ tính toán, phần mềm và cơ sở vật chất, giúp khách hàng nâng cao tốc độ triển khai, độ tin cậy và hiệu quả vận hành, đồng thời giảm chi phí Token sinh ra trong quá trình suy luận AI.

Huang Renxun cho biết:

“Chúng tôi không chỉ cung cấp chip — chúng tôi cung cấp một hệ thống phương pháp toàn diện để xây dựng nhà máy AI cho từng nhà xây dựng hạ tầng. Với nền tảng DSX, bạn có thể mô phỏng toàn bộ nhà máy mà không cần chi phí, xác nhận hiệu suất trước khi lắp đặt rack đầu tiên, và vận hành với độ tin cậy cần thiết cho AI sản xuất.”

Hệ thống phần mềm được ra mắt lần này chủ yếu gồm DSX MaxLPS và DSX OS.

Trong đó, DSX MaxLPS sử dụng công nghệ làm mát bằng chất lỏng 45 độ Celsius và tối ưu hóa công suất theo rack, nâng cao sản lượng Token trên mỗi megawatt điện. NVIDIA cho biết, công nghệ này có thể thêm tối đa 40% GPU mà ảnh hưởng đến hiệu năng là rất nhỏ, từ đó giảm chi phí tính toán trong giới hạn ngân sách điện năng cố định.

DSX OS là một nền tảng phần mềm mã nguồn mở dành cho vận hành nhà máy AI, hỗ trợ quản lý vòng đời, điều phối thông minh, tự động hóa sức khỏe, vận hành đa thuê và dịch vụ nền tảng. NVIDIA cũng sẽ mở nguồn thư viện phần mềm mô-đun, API, thiết kế tham khảo và nền tảng tính toán tăng tốc để xây dựng kiến trúc phần mềm thống nhất.

Ngoài phần mềm cốt lõi, DSX còn tích hợp nhiều khả năng hiện có. Thiết kế tham khảo DSX cung cấp kiến trúc tham khảo cho tính toán, mạng, lưu trữ, cung cấp điện và hệ thống làm mát; DSX Sim hỗ trợ mô phỏng kỹ thuật số và tối ưu hóa toàn bộ quá trình từ lập kế hoạch đến vận hành; DSX Flex có thể điều chỉnh tải công việc dựa trên tải lưới điện và biến động giá điện; DSX Exchange thực hiện phối hợp dữ liệu giữa hệ thống tính toán, mạng, năng lượng và làm mát.

Trong lĩnh vực ứng dụng thương mại, các nhà cung cấp dịch vụ đám mây như CoreWeave, Crusoe, IREN và Lambda đã triển khai các thành phần cốt lõi của DSX để nâng cao tỷ lệ sử dụng GPU và rút ngắn thời gian ra mắt dịch vụ đám mây AI.

Hệ sinh thái phần cứng cũng đang mở rộng đồng bộ. Các nhà sản xuất như Dell Technologies (DELL.N), HPE (HPE.N), Lenovo (0992.HK), Supermicro (SMCI.O), ASUS, Foxconn, Gigabyte, Wistron và Quanta Cloud Technology đang phát triển hệ thống sẵn sàng NVIDIA DSX, giúp khách hàng xây dựng nhà máy AI toàn bộ chuỗi.

Trong khi đó, DSX Flex đã hợp tác thử nghiệm thương mại với Emerald AI và Silicon Valley Power, xác nhận khả năng điều chỉnh công suất dựa trên nhu cầu lưới điện của nhà máy AI.

Về chiến lược, DSX đánh dấu bước tiếp tục của NVIDIA trong việc chuyển đổi từ nhà cung cấp chip AI sang nhà cung cấp nền tảng hạ tầng AI. Bằng cách tích hợp chip, phần mềm, kiến trúc trung tâm dữ liệu, quản lý vận hành và điều phối năng lượng trong một hệ thống thống nhất, NVIDIA hy vọng xây dựng tiêu chuẩn ngành cho toàn bộ vòng đời nhà máy AI và củng cố vị thế dẫn đầu trong thị trường hạ tầng AI toàn cầu.