La véritable nature de l'évolution technologique selon Hoan. Récemment, une remarque importante a attiré mon attention. Le défi de l'informatique moderne est qu'il ne peut plus être résolu par une seule machine. La raison pour laquelle cela est crucial, c'est que, avec le ralentissement de la loi de Moore, le modèle traditionnel d'amélioration des performances sur lequel nous comptions commence à s'effondrer.

Hoan, co-fondateur de NVIDIA, affirme que la co-conception extrême est indispensable face à cette réalité. Il faut avoir une vue d'ensemble du matériel, du logiciel et des algorithmes. En considérant la complexité de l'informatique distribuée, cela ne relève pas d'une simple idéologie, mais d'une nécessité pratique.

Avec le ralentissement du déclin de la loi de Dennard, principalement dû au ralentissement de la loi de Moore, il ne suffit plus de simplement augmenter l'échelle. La distribution de problèmes de calcul complexes sur plusieurs composants engendre de nouveaux défis. La gestion des pannes, la synchronisation, la surcharge de communication. Ce sont des problèmes fondamentaux en science informatique.

Ce que Hoan souligne, c'est que la taille du marché détermine la capacité de R&D, et que cette capacité influence l'industrie. En d'autres termes, comprendre la dynamique du marché est la clé de l'innovation technologique.

Le passage de NVIDIA d'une entreprise de GPU pour jeux vidéo à une entreprise de calcul AI n'est pas qu'une simple transformation commerciale. C'était une adaptation stratégique pour répondre aux exigences du marché, en équilibrant spécialisation et généralisation. L'introduction du FP32 dans les shaders ou l'intégration de CUDA dans GeForce peuvent sembler risquées à première vue, mais en réalité, c'étaient des changements calculés.

La conception informatique nécessite une compréhension de toute la pile, du système d'exploitation au logiciel. Cela ne peut être réalisé sans la collaboration de différentes disciplines. Et pour que la plateforme réussisse, une base d'adoption large est essentielle. Attirer les développeurs et construire un écosystème définissent l'essence de l'architecture.

Le fait que x86, malgré les critiques, reste une architecture emblématique, montre la puissance de cette base d'adoption. C'est précisément parce que la loi de Moore ralentit que la valeur de bâtir des innovations sur cette infrastructure devient encore plus grande.