Я считаю, что ASIC — это не то, что многие думают: не специальная схема, сделанная ради какой-то одной модели и конкретной архитектуры. Скорее он создан под определённый Model Layer и Operator, и внутри он программируемый.

ASIC не настолько «тупой», чтобы уметь запускать только какой-то конкретный шаблон модели. Кроме того, у собственной команды моделей тоже должна быть итерация — как они вообще могут не общаться?
Очень простой дизайн-паттерн: профилируете, на каких операторах ваша модель тратит больше всего времени, затем даёте дизайнерам оптимизировать эти операторы, и превращаете их в ASIC. Так довольно легко повышается эффективность вашего workload.
Такой ASIC по сути представляет собой набор операторов; конечно, из‑за эффективности может быть выкинуто несколько редко используемых операторов, но при этом общие модели всё равно можно запускать.
По сути, как минимум сейчас это не имеет принципиальных отличий от NVDA. Просто NVDA нужно учитывать всех подряд, а ASIC может специализироваться и отвечать за свою конкретную партию трафика. Конечно, в этом есть ценность.
По мере того как компании будут сильнее различаться, ценность ASIC должна расти, а не наоборот. Нет необходимости переплачивать за функции, которые вам не нужны.
Поэтому моё мнение про ASIC: в дальнейшем он сможет как минимум забрать 50% «королевства» в области инференса. Кризис у NVIDIA реален. Я не верю, что он пойдёт к 300, и я бы его не покупал.
Спасибо всем