Я думаю, ASIC — це не те, як багато хто його собі уявляє: не спеціальна схема, створена під якусь одну архітектуру моделі. Він має бути зроблений для конкретного Model Layer і Operator, причому всередині він є програмованим.


ASIC аж ніяк не є дурним настільки, щоб уміти запускати тільки певну конкретну модель; їхня власна команда моделей також має ітерації. Як вони можуть не спілкуватися?
Дуже проста дизайнерська модель: профілювати, на яких операторах у вашій моделі витрачається найбільше часу, а потім дати дизайнерам оптимізувати ці оператори й зробити з цього ASIC. Так дуже легко підвищити ефективність вашого workload.
Такий ASIC фактично є набором операторів; звісно, можливо, через оптимізацію вони втратять деякі менш уживані оператори, але все одно можна запускати загальні моделі.
Принаймні це не має принципової різниці з тим, що робить зараз NVDA. Просто NVDA має враховувати всі компанії, а ASIC може спеціально відповідати за власну певну групу трафіку. Звісно, це має цінність.
Зі зростанням відмінностей між компаніями цінність ASIC має лише зростати, а не навпаки. Немає необхідності платити премію за функції, які вам не потрібні.
Тому я оцінюю ASIC так: у майбутньому принаймні можна буде забрати 50% ринку інференсу. Кризa в Nvidia реальна; я не думаю, що їй вдасться піти на 300, і я цього не купуватиму.
Дякую всім
NVDA4,06%
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено