NVIDIA mua lại Groq với giá 20 tỷ USD lần đầu tiên bàn về chiến lược: Đánh giá token dựa trên chất lượng, độ trễ thấp và giá cao là lĩnh vực mới

ME News Tin tức, ngày 16 tháng 4 (UTC+8), theo theo dõi Beating, Huang Renxun lần đầu tiên giải thích chi tiết lý do chiến lược của việc Nvidia mua lại Groq trong một cuộc phỏng vấn. Nvidia đã mua lại bộ phận chip suy luận của Groq với giá 20 tỷ USD vào tháng 12 năm ngoái, nhà sáng lập Groq Jonathan Ross và đội ngũ cốt lõi gia nhập Nvidia, Groq tiếp tục hoạt động như một công ty độc lập. Vào tháng 3 năm nay tại hội nghị GTC, Nvidia đã ra mắt chip đầu tiên sau khi hợp nhất, Groq 3 LPU, được sản xuất bằng công nghệ 4nm của Samsung, Nvidia cho biết khả năng xử lý suy luận trên mỗi megawatt của nó trên các mô hình có hàng tỷ tham số là gấp 35 lần so với Blackwell NVL72. Huang Renxun nói rằng, động lực mua lại Groq là do phân tầng của thị trường suy luận. Trước đây, tối ưu hóa suy luận chỉ có một hướng: tăng khả năng xử lý. Nhưng giá trị thương mại của token đã tăng mạnh, các người dùng khác nhau sẵn sàng trả giá khác nhau cho tốc độ phản hồi khác nhau. “Nếu tôi có thể cung cấp cho các kỹ sư phần mềm token phản hồi nhanh hơn, giúp họ hiệu quả hơn so với hiện tại, tôi sẵn sàng trả phí cho điều đó. Nhưng thị trường này mới xuất hiện gần đây.” Ông mô tả điều này như là mở rộng biên giới Pareto của thị trường suy luận: ngoài các giải pháp có khả năng xử lý cao hiện tại, bổ sung một phân khúc thị trường có độ trễ thấp, giá cao. Cùng một mô hình, dựa trên sự khác biệt về thời gian phản hồi, định giá khác nhau, “dù khả năng xử lý thấp hơn, nhưng giá đơn có thể bù đắp”. Kiến trúc LPU của Groq nổi bật với độ trễ thấp mang tính xác định, bổ sung cho hướng xử lý khả năng xử lý cao của GPU Nvidia, việc mua lại đã bổ sung một phần còn thiếu trong dòng sản phẩm suy luận của Nvidia. (Nguồn: BlockBeats)