我觉得ASIC并不是很多人认为的那种,为了某个模型架构而做出来的专用电路。它应该是为特定的Model Layer和Operator而做的电路,内部是可编程的。



ASIC并非愚蠢到只能跑某个特定模型。自己的模型团队也要迭代,他们怎么可能不沟通呢?

一个很简单的设计模式:去profile一下自己模型在哪些算子上消耗的时间最多,然后让设计师去对这些算子进行优化,做成一个ASIC。这样很容易就能让自己的workload效率变高了。

这样的ASIC实际上是算子的集合。当然也可能因为效率而丢掉一些不常用的算子,不过依然是可以跑通用模型的。

至少和现在NVDA没有本质区别。只不过NVDA需要兼顾所有公司,而ASIC可以专门负责自己的某一批流量。当然是有价值的。

随着公司之间的差异化,ASIC的价值应该是越来越高,而不是反过来。没有必要去为自己用不到的功能提供溢价。

所以,我对ASIC的判断是:以后至少能拿下50%的推理江山。英伟达的危机是真实的。我不看好它去300,我也不会买。

谢谢大家
NVDA4,06%
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim