Je pense que les ASIC ne sont pas ce que beaucoup de gens imaginent : des circuits dédiés construits uniquement pour une architecture de modèle. Ils sont plutôt conçus pour une couche de modèle et des opérateurs spécifiques, et leur interne est programmable.

Dire que les ASIC seraient trop « bêtes » pour ne faire tourner qu’un modèle particulier, alors que leurs équipes de modèles doivent aussi itérer, comment pourraient-ils ne pas communiquer ?
Un schéma de conception très simple : profiler sur quels opérateurs votre modèle passe le plus de temps, puis demander aux concepteurs d’optimiser ces opérateurs, et en faire un ASIC. Comme ça, vous augmentez facilement l’efficacité de votre workload.

En réalité, un tel ASIC est un ensemble d’opérateurs. Bien sûr, il peut aussi être amené à abandonner certains opérateurs moins utilisés, mais il reste possible de faire tourner des modèles génériques.
Au moins, il n’y a pas de différence essentielle avec ce que fait NVDA aujourd’hui. Sauf que NVDA doit tout prendre en compte pour toutes les entreprises, tandis qu’un ASIC peut être spécialisé sur un certain lot de trafic. Donc c’est bien une valeur.

À mesure que les entreprises se différencient, la valeur des ASIC devrait augmenter, et non l’inverse. Il n’y a pas besoin de payer une prime pour des fonctionnalités que vous n’utiliserez pas.

Donc, mon avis sur les ASIC : à l’avenir, ils devraient au moins pouvoir s’emparer de 50 % du marché de l’inférence. La crise de Nvidia est réelle. Je ne le vois pas monter à 300, et je n’en achèterai pas.

Merci à tous.