Điều quan trọng nhất hôm nay là hội nghị GTC của NVIDIA, gần như là một bộ sử nhân loại phiên bản AI.

robot
Đang tạo bản tóm tắt

Hôm nay, điều quan trọng nhất chính là hội nghị GTC của NVIDIA—đúng kiểu “lịch sử loài người” phiên bản AI.

Chưa kịp lên sân khấu, lượng thông tin bị rò rỉ trước của Hoàng Nhân Quân đã đủ để viết thành một cuốn sách.

Tối tối mình tổng hợp 3 điểm nóng lớn, đi thôi các bạn mập, theo mình.

1)Chi phí tính toán AI giảm trực tiếp một nửa

Blackwell đời trước đã rất mạnh rồi, đúng không? Sắp tới NVIDIA sẽ công bố dây chuyền sản xuất đại trà cho con chip thế hệ mới Vera Rubin.

Vera Rubin mạnh ở đâu? Nói thẳng ra chỉ có hai chữ: rẻ.

Chạy cùng một mô hình AI, số lượng chip giảm còn một phần tư, chi phí tính toán suy luận giảm chín phần mười. Giảm chín phần mười đó bạn bè. AWS, Microsoft, Google—ba ông lớn dịch vụ cloud—trực tiếp lên chuyến đầu tiên.

2)Groq mua năm ngoái 20 tỷ USD, hôm nay nộp bài

Trước đó Hoàng Nhân Quân từng nói trong cuộc họp kết quả kinh doanh rằng, Groq sẽ được tích hợp vào hệ sinh thái NVIDIA như một kiến trúc mở rộng, giống như hồi đó mua Mellanox để bổ sung năng lực mạng.

LPU của Groq và GPU của NVIDIA nằm chung trong cùng một trung tâm dữ liệu, GPU hiểu vấn đề, LPU chịu trách nhiệm “nhả” đáp án thật nhanh.

Hai loại chip phân công phối hợp, độ trễ trong các kịch bản Agent giảm thẳng một mạch.

AI Agent thay người làm việc, một nhiệm vụ qua lại có thể phải tinh chỉnh mô hình vài chục vòng, và mỗi vòng đều đang đốt sức mạnh tính toán suy luận, trong khi người dùng thì vẫn ngồi đó chờ. Chậm một chút là trải nghiệm sụp.

Suy luận gồm hai bước: trước tiên hiểu câu hỏi của bạn, rồi từng chữ từng chữ “thốt” ra câu trả lời.

GPU giỏi bước đầu, nhưng tốc độ và độ ổn định khi “thốt chữ” ở bước thứ hai thì LPU của Groq mạnh hơn.

20 tỷ USD có đắt không?

Bạn nghĩ xem—sau này mỗi công ty chạy vài trăm Agent, mỗi Agent mỗi ngày chỉnh vài nghìn lần mô hình.

3)OpenClaw phiên bản NVIDIA lên sóng, tên là NemoClaw

Đây là một bộ nền tảng mã nguồn mở; doanh nghiệp cài vào là có thể triển khai “nhân viên AI” thay người thật chạy quy trình, xử lý dữ liệu, quản lý dự án. Nghe nói hiện đang đàm phán với Salesforce, Adobe.

Điểm thú vị nằm ở chỗ: NemoClaw không yêu cầu bạn phải dùng chip của NVIDIA. Bạn ngẫm kỹ cái logic này xem. Bán chip chỉ kiếm tiền ở lớp phần cứng thôi, muốn kiếm cả dòng tiền của toàn chuỗi thì phải định luật. Hoàng Nhân Quân tính khoản này quá rành rọt.

4)Hoàng Nhân Quân nói sẽ trình diễn “con chip mà thế giới chưa từng thấy”

Khả năng cao là kiến trúc đời tiếp theo mang tên Feynman lần đầu lộ diện, sản xuất đại trà vào năm 2028, dùng công nghệ 1,6 nm tiên tiến nhất của TSMC.

Ngoài ra còn một mẩu “nguyên liệu ít người để ý” mà mình thấy khá thú vị.

NVIDIA ra chip xử lý cho laptop rồi, có hai phiên bản, tập trung cho game. Người bán card màn hình sắp phải tranh giành cái “ghế” CPU rồi đó.

Mình thấy Hoàng Nhân Quân trong tương lai có thể sẽ trở thành một bậc vĩ nhân của một thời đại.

MSFT2,20%
NVDA0,36%
CRM1,71%
ADBE-1,08%
TSM1,10%
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim