$NVDA Jonathan Ross nói rằng bộ nhớ là nút thắt cổ chai lớn nhất của AI hiện nay, nhưng nút thắt cổ chai không phải là vĩnh viễn.

“Mỗi khi một nút thắt cổ chai trở nên đủ lớn, mọi người sẽ giải quyết nó.”
Cảnh báo của ông là bộ nhớ có thể vẫn cực kỳ có giá trị trong khi nó bị hạn chế, nhưng nếu nó trở nên quá đắt hoặc quá khan hiếm, đó sẽ trở thành vấn đề mà các kỹ sư buộc phải giải quyết.
Nếu bộ nhớ trở thành quá nhiều nút thắt cổ chai, ngành công nghiệp sẽ bắt đầu tìm cách giảm sự phụ thuộc vào nó.
Ông nói rằng bộ nhớ là “mảng hàng hóa được thương mại hóa nhiều nhất trong chuỗi cung ứng bán dẫn,” nhưng bây giờ nó là một trong những hạn chế quan trọng nhất trong AI.
Ross giải thích điều này bằng phép so sánh hàng hóa Giffen. Nếu bộ nhớ trở nên đắt hơn, khách hàng ban đầu có thể chi nhiều hơn cho nó vì nó là thiết yếu. Nhưng cuối cùng, nếu giá quá cao, họ sẽ tìm kiếm các phương án thay thế.
“nếu bộ nhớ quá đắt và nếu mọi người không xây dựng đủ, mọi người sẽ giải quyết vấn đề đó bằng công nghệ.”
Ví dụ DeepSeek phù hợp với quan điểm của ông. Khi người phỏng vấn đề cập rằng DeepSeek V4 nén bộ đệm KV lên tới 90%, Ross phản hồi rằng công việc kỹ thuật này đã có một chi phí cơ hội.
“Nếu họ có đủ bộ nhớ, họ đã làm việc trên một thứ khác. Nếu nó không đắt như vậy, họ đã làm việc trên một thứ khác.”
“Bạn biến nó thành vấn đề lớn đủ. Đó là cây poppy cao. Ngay khi nó quá cao, nó sẽ bị chặt xuống.”