1/ 🧠 Чому майбутній персональний AI комп'ютер (як NVIDIA DGX Spark) справді може конкурувати з дата-центром?

2/ Не тому, що настільні ПК стали настільки потужними, що замінюють хмару, а тому, що «структура попиту» на ШІ розколюється —
3/ Навчання залишається в хмарі, а інференція повертається на локальний пристрій.
4/ 2/ Ключовий прорив перший: FP4 змінює правила гри
5/ Модель з 70B параметрів потребує 140 ГБ пам'яті у FP16;
6/ З FP4 → лише 35 ГБ.
7/ Один настільний ПК із 128 ГБ уніфікованої пам'яті зможе запустити модель, для якої раніше потрібно було 8 карт H100.
8/ Втрата точності? За допомогою QAT (навчання з урахуванням квантування) вона майже непомітна.
9/ 3/ Ключовий прорив другий: Memory Wall руйнується
10/ Не вистачає пропускної здатності LPDDR5X?
11/ •Apple M4 Ultra досягає ~800 ГБ/с завдяки надширокій розрядності
12/ •LPDDR6 (2027) подвоює пропускну здатність
13/ •NVIDIA DGX Spark використовує GB10 + архітектуру когерентної пам'яті
14/ Настільний ПК більше не є «кастрованою версією GPU», а «новим видом, оптимізованим для інференції».
15/ 4/ Ключовий прорив третій: вам взагалі не потрібен дата-центр
16/ Дата-центр вирішує:
17/ ✅ навчання frontier-моделей (трильйони параметрів)
18/ ✅ обслуговування мільярдів користувачів одночасно по всьому світу
19/ Особисто потрібно:
20/ ✅ локальний мозок, здатний запускати модель 70B–200B
21/ ✅ приватність, низька затримка, без щомісячної плати
22/ Ці дві речі — зовсім різні проблеми.
23/ 5/ Інвестиційні висновки 💡
24/ •HBM все ще король на стороні навчання (SK Hynix, Micron)
25/ •Але чіпи для крайової інференції + високошвидкісна LPDDR/уніфікована пам'ять стануть новим полем битви наступного десятиліття
26/ •NVIDIA DGX Spark, Apple Silicon, AMD Strix Halo, Qualcomm X Elite — всі вони займають позиції
27/ Майбутнє — це не хмара проти настільного ПК, а хмара для навчання, настільний ПК — для вашого ШІ.