Світ страждає від DRAM вже давно.

Зараз перед центрами обробки даних постала нова криза — не брак обчислювальних потужностей, а надто дорога пам'ять.

Останніми роками, зі стрімким масштабуванням AI-бізнесу, такого як інференція великих моделей, бази даних у пам'яті та високопродуктивні обчислення, центри обробки даних наближаються до критичної точки використання ресурсів пам'яті. DRAM, яка колись була стандартним компонентом серверів, тепер стала найдорожчим і найдефіцитнішим ресурсом інфраструктури. Стрімке зростання цін та жорсткість пропозиції стали ключовими факторами, що стримують темпи розгортання AI-потужностей.

Згідно з даними відстеження Counterpoint Research, ціни на модулі пам'яті DIMM об'ємом 64 ГБ зросли в 3,5 раза між третім кварталом 2025 року та першим кварталом 2026 року, і цей ріст ще не досяг піку — очікується, що до третього кварталу 2026 року сукупне зростання досягне 5 разів.

Дані TrendForce є ще більш наочними: у першому кварталі 2026 року контрактні ціни на DRAM зросли на 93% до 98% у порівнянні з попереднім кварталом, що призвело до зростання загального доходу світової DRAM-індустрії на 81% у порівнянні з попереднім кварталом, до 97 мільярдів доларів США. У другому кварталі тенденція до зростання не припинилася: очікується, що контрактні ціни зростуть ще на 58% до 63%.

Сигнали на спотовому ринку є ще більш прямими: поточна спотова ціна на серверний DDR5 RDIMM становить від 27 до 37 доларів США за ГБ, а вартість лише апаратного забезпечення DRAM для створення пулу пам'яті об'ємом 12 ТБ наближається до 500 000 доларів США.

Криза DRAM вибухнула в повну силу

Першопричина цього ралі цін криється в постійному поглинанні потужностей DRAM з боку HBM.

Згідно з оприлюдненими даними, зі сплеском попиту на високопропускну пам'ять для навчання та інференції AI, частка HBM у загальній потужності пластин DRAM зросла з 2% у 2020 році до прогнозованих 25% у 2026 році. Три провідні виробники — Samsung, SK hynix та Micron — активно переорієнтовують високоякісні потужності на високомаржинальну HBM. Частка виробництва HBM у загальному обсязі виробництва пластин DRAM становитиме приблизно 18%, 22% і 30% у 2025, 2026 та 2027 роках відповідно. Одна пластина HBM споживає приблизно втричі більше потужностей, ніж DDR5. Три провідні виробники активно скорочують низькомаржинальні замовлення на мобільні телефони та ПК, спрямовуючи всі потужності на AI. Враховуючи, що гіперскейлери-хмарні провайдери також заздалегідь заблокували майбутнє виробництво пластин за допомогою довгострокових контрактів, це ще більше стискає пропозицію стандартної DRAM для серверної сфери.

Жорсткість пропозиції визначає, що дефіцит навряд чи вдасться швидко полегшити.

Передові техпроцеси DRAM сильно залежать від EUV-літографічних машин, вартість яких сягає близько 200 мільйонів доларів США за одиницю. Інвестиції в сучасний завод з виробництва пластин часто становлять десятки мільярдів доларів, і навіть за сприятливих умов цикл будівництва триває кілька років. Швидкість розширення потужностей значно відстає від темпів зростання AI-попиту.

Jefferies прогнозує, що без урахування впливу китайських виробників, глобальне зростання бітової пропозиції пам'яті у 2026 році складе лише 7% до 8%. DRAM та NAND разом можуть мати дефіцит пропозиції приблизно від 150 000 до 200 000 пластин на місяць. У фінансовому звіті за третій фіскальний квартал 2026 року Micron Technology заявила, що навіть якщо пропозиція в галузі може поступово покращитися до 2028 року, наразі все ще важко визначити, коли пропозиція пам'яті зможе наздогнати постійно зростаючий попит.

Крім того, тиск вже поширився з центрів обробки даних на споживчий сектор.

Генеральний директор Xbox Аша Шарма публічно заявила, що за останні два роки вартість пам'яті зросла приблизно в п'ять разів, що безпосередньо призвело до того, що компанія не може виробляти достатню кількість ігрових консолей для задоволення ринкового попиту. Apple також оголосила про послідовні підвищення цін на iPhone, Mac, iPad та інші продукти.

Команда аналітика Morgan Stanley Шона Кіма прямо заявила, що стрімке зростання цін на пам'ять та дефіцит пропозиції перетворюються на повномасштабний ризик для цифрової економіки, "поширюючись від вузьких місць AI-інфраструктури на маржу апаратного забезпечення, доступність пристроїв, хмарні витрати, інфляцію і навіть політичний рівень".

Зміна частки DRAM у специфікації матеріалів сервера є ще більш показовою. У 2023 році DRAM становила приблизно 50% загальної вартості сервера; до середини 2026 року ця частка зросла до 60% - 90%, в середньому близько 75%. Ціна на CPU не впала, але на тлі стрімкого зростання цін на пам'ять зростання цін на CPU здається незначним.

Ще більш іронічно те, що придбана за великі гроші пам'ять насправді використовується не дуже ефективно. Вимірювання гіперскейлерів, таких як Meta, показують, що в центрах обробки даних лише близько половини ємності пам'яті зайнято активно "гарячими даними", в той час як велика кількість "холодних даних" постійно займає дорогі ресурси DRAM.

Зіткнувшись з дорожнечею та дефіцитом DRAM, гравці галузі почали шукати альтернативні шляхи — більше не просто нарощувати апаратне забезпечення, а використовувати технологічні засоби для зменшення залежності від DRAM.

AMD: AI-прогнозування планування, робить флеш-пам'ять "невидимою" пам'яттю

AMD обрала найлегший програмний шлях.

У червні 2026 року AMD оголосила про придбання компанії з оптимізації пам'яті MEXT, основною метою якої є впровадження технології багаторівневої пам'яті на основі AI, яка переміщує холодні дані з дорогої DRAM на дешевшу NAND-флеш-пам'ять, забезпечуючи економічно ефективне розширення ефективної ємності пам'яті.

Повідомляється, що MEXT була заснована в 2023 році, а її засновницька команда має значний досвід — співзасновник і генеральний директор Гері Смердон раніше був головним стратегічним директором і директором з продуктів Fusion-io, піонером масової комерціалізації флеш-сховищ. Понад десять років тому його основними клієнтами були Apple і Meta Platforms.

MEXT, зосередившись на вузькому місці ефективності пам'яті, представила технологію багаторівневої пам'яті на основі AI. Ця технологія може переміщувати дані, до яких звертаються нечасто, з дорогої DRAM на NAND-флеш-пам'ять, вартість одиниці ємності якої набагато нижча, не впливаючи на роботу додатків.

Основним продуктом MEXT є Predictive Memory Engine — повністю програмне рішення для багаторівневої пам'яті: воно постійно відстежує патерни доступу до пам'яті на рівні сторінок, автоматично переміщує холодні дані, до яких звертаються рідко, на NAND-флеш-пам'ять — вартість флеш-пам'яті на біт становить лише близько 1/55 від вартості DRAM; водночас, використовуючи AI-моделі для вивчення патернів доступу до робочого навантаження, він прогнозує сторінки даних, які будуть запитані, і активно передзавантажує їх назад до DRAM до того, як додаток надішле запит, дозволяючи програмному забезпеченню зчитувати дані так, ніби вони безпосередньо звертаються до основної пам'яті, тим самим забезпечуючи незмінну продуктивність.

Джерело зображення: Nextplat

Весь механізм є повністю прозорим для операційної системи та додатків більш високого рівня, не вимагає зміни жодного бізнес-коду або додавання спеціалізованого апаратного забезпечення, а розгортання займає лише кілька хвилин.

Офіційні дані показують, що це рішення може збільшити ефективну ємність пам'яті системи у 2-4 рази, знизивши загальну вартість інфраструктури приблизно на 50%. У типових сценаріях, таких як графові бази даних Neo4j, EDA-симуляція та рендеринг відео, конфігурація зі співвідношенням DRAM до флеш-пам'яті 1:1 може досягти приблизно 95% пропускної здатності конфігурації з чистою DRAM, але зі значно нижчою вартістю.

MEXT раніше провела порівняльні тести на серверах Dell та хмарних інстансах AWS:

Порівняльна діаграма серверів Dell/AWS з MEXT та без MEXT (Джерело зображення: Nextplat)

Продуктивність та економічна ефективність графової бази даних Neo4j при співвідношенні пам'яті та флеш-пам'яті 1:1 та 1:3 при використанні MEXT:

Джерело зображення: Nextplat

Хоча ідея MEXT не є революційною — багаторівнева пам'ять і переміщення холодних даних на більш дешеві носії існують досить давно. Але раніше технології не могли бути масштабно впроваджені в центрах обробки даних, головним чином через недостатню точність алгоритмів прогнозування. Якщо прогноз був неточним і програмі потрібні були дані, затримка від переміщення їх з флеш-пам'яті до DRAM ставала очевидною, і втрата продуктивності була неприйнятною.

Прорив MEXT полягає у використанні AI-моделі для цього завдання. Її Predictive Memory Engine постійно аналізує патерни доступу до пам'яті, використовуючи AI для визначення сторінок даних, які, найімовірніше, будуть використані наступними, а потім активно переміщує дані з флеш-пам'яті назад до DRAM до того, як додаток надішле реальний запит.

Для AMD це придбання заповнює ключову прогалину в її повному стеку можливостей. Окрім процесорів EPYC, графічних процесорів Instinct та програмного стеку ROCm, шар ефективності пам'яті від MEXT дозволяє AMD пропонувати клієнтам комплексні рішення від чіпів до планування потоків даних, допомагаючи клієнтам знизити загальну вартість володіння та зменшити простої GPU, коли вони "чекають на дані", а також зміцнюючи власну конкурентоспроможність на ринку AI-інфраструктури.

У день оголошення про придбання акції AMD зросли майже на 7% під час торгів, що свідчить про схвалення ринком цього шляху.

Звісно, слід зазначити, що те, наскільки технологія MEXT в кінцевому підсумку буде впроваджена в серверних продуктах AMD, ще належить перевірити часом. Фізична різниця в затримці між NAND-флеш-пам'яттю та DRAM є об'єктивною реальністю, і чи зможе AI-прогнозування на програмному рівні справді подолати цю прірву, залежатиме від фактичної продуктивності при масштабному розгортанні.

Apple: Периферійна велика модель, "зберігаючи" модель у флеш-пам'ять

Коли центри обробки даних страждають від вартості DRAM, споживчий сектор стикається з тими ж обмеженнями — ємність DRAM у терміналах, таких як смартфони, є надзвичайно обмеженою, але вони повинні підтримувати інференційні потреби великих моделей на пристрої. Відповідь Apple полягає в тому, щоб велика модель постійно перебувала у флеш-пам'яті і завантажувалася в оперативну пам'ять за потреби.

Найновіша модель Apple AFM 3 Core Advanced — це периферійна велика модель з 20 мільярдами параметрів. Якщо завантажити її всю в DRAM традиційним способом, це значно перевищить ліміт пам'яті споживчих пристроїв. Apple вирішила цю проблему за допомогою архітектури з розрідженою активацією: повна модель зберігається в NAND-флеш-пам'яті, а під час інференції завантажуються не всі ваги, а лише модулі експертів, необхідні для конкретного запиту, на основі вхідного prompt, при цьому робочий набір з 1-4 мільярдів параметрів завантажується в DRAM.

Схематична діаграма архітектури моделі AFM 3 Core Advanced

На відміну від традиційних MoE-моделей, які перемикають експертів токен за токеном, що призводить до частого переміщення даних, Apple використовує механізм маршрутизації на основі гранулярності prompt у поєднанні з високою часткою спільних експертів, що постійно перебувають у DRAM, що значно зменшує кількість обмінів між флеш-пам'яттю та оперативною пам'яттю, мінімізуючи затримку завантаження. У поєднанні з оптимізаціями, такими як обрізання на рівні інструкцій (IFP) та спрощення шарів Transformer, максимальне використання DRAM для моделі з 20 мільярдами параметрів контролюється в діапазоні від 2 ГБ до 8 ГБ, що додатково балансує використання пам'яті та обчислювальну ефективність, ефективно вирішуючи проблему великого споживання DRAM MoE при розгортанні на периферійних пристроях, дозволяючи моделі плавно працювати на таких терміналах, як iPhone, реалізуючи периферійний інференцію "велика модель, мала пам'ять".

Ця архітектура не є результатом тимчасових досліджень.

Фактично, ще в 2024 році дослідницька група Apple опублікувала статтю "LLM in a Flash", в якій системно перевірила технологічний шлях зберігання параметрів великої моделі у флеш-пам'яті та їх виклику за потреби. Це знижує витрати на хмарні обчислення, одночасно забезпечуючи життєздатну архітектурну підтримку пам'яті для периферійних AI-додатків, досягаючи швидкості інференції в 4-5 разів (на CPU) та 20-25 разів (на GPU) швидше, ніж наївне завантаження.

Коли зростання цін на DRAM поширюється з промислового сектора на споживчу електроніку, це рішення не тільки підтримує досвід периферійного AI, але й зменшує залежність пристроїв від великої ємності DRAM.

Підводячи підсумок, два основні шляхи AMD та Apple одночасно розвиваються для центрів обробки даних та периферійних пристроїв, але сходяться на одному висновку: рівень пам'яті для AI-інференції реконструюється. Низькочастотний KV-кеш, ваги моделей та периферійні дані поступово мігрують з дорогої HBM/DRAM на рівень NAND Flash/SSD, утворюючи багаторівневу архітектуру зберігання.

Ця архітектурна зміна поширюється вздовж ланцюжка створення вартості, утворюючи багаторівневі ефекти передачі. За даними Citrini Research, безпосередніми бенефіціарами є виробники NAND.

Marvell: Апаратне стиснення + CXL, розширення фізичної пам'яті

Якщо AMD та Apple обрали шлях програмної та архітектурної оптимізації, то Marvell обрав шлях апаратного прориву, використовуючи високошвидкісний протокол CXL, щоб безпосередньо збільшити еквівалентну ємність фізичної DRAM за допомогою технології вбудованого апаратного стиснення.

У червні 2026 року Marvell випустила серію контролерів CXL Structera — Structera X (контролер розширення пам'яті) та Structera A (прискорювач поблизу пам'яті). Обидва чіпи мають вбудований власний модуль апаратного стиснення CDB (Compression-Decompression Block).

За інформацією, коли дані записуються в DRAM, модуль CDB стискає їх у реальному часі за допомогою спеціалізованого алгоритму LZ4 без втрат; під час читання він синхронно виконує декомпресію. Весь процес виконується незалежно в ланцюжку пам'яті, не споживаючи обчислювальну потужність хост-процесора і є повністю прозорим для додатків більш високого рівня. Залежно від типу даних, 1 ГБ фізичної DRAM може забезпечити еквівалентну логічну ємність у 2-3,64 рази — у сценаріях гібридних баз даних середній коефіцієнт стиснення може досягати 3,64:1, що еквівалентно використанню менше ніж однієї третини фізичної пам'яті для задоволення тих самих бізнес-потреб.

Крім того, це рішення має дві додаткові переваги щодо зниження вартості: по-перше, повторне використання старої пам'яті: контролер Structera X підтримує підключення пам'яті DDR4, що дозволяє використовувати виведену з експлуатації DDR4 у пулі CXL-пам'яті, зменшуючи потребу в нових закупівлях дорогої DDR5; по-друге, об'єднання пам'яті: протокол CXL долає обмеження ексклюзивності пам'яті для окремого CPU, дозволяючи багатьом серверам спільно використовувати ресурси пам'яті, таким чином поглинаючи невикористану ємність у системі.

За поточною спотовою ціною DDR5 від 27 до 37 доларів США за ГБ, вартість лише DRAM для пулу пам'яті об'ємом 12 ТБ наближається до 500 000 доларів США; якщо оцінювати за триразовим коефіцієнтом стиснення, закупівлю фізичної DRAM можна скоротити на дві третини, заощадивши понад 300 000 доларів США на пул.

SanDisk: Розміщення NAND під GPU

Рішення компанії SanDisk (SanDisk) є більш радикальним — реконструкція архітектури пам'яті AI-чіпів на рівні корпусу.

SanDisk спільно з SK hynix працює над стандартизацією високошвидкісної флеш-пам'яті (HBF), намагаючись наблизити NAND-флеш-пам'ять до обчислювального ядра, створюючи новий рівень пам'яті між HBM та SSD.

Патентне рішення SanDisk пропонує архітектуру "NAND під GPU": високоємна NAND-флеш-пам'ять розташовується безпосередньо під GPU або AI-прискорювачем, оточена стеком HBM, що значно скорочує відстань передачі даних, збільшуючи пропускну здатність доступу до флеш-пам'яті. Згідно з планом, HBF буде фізично сумісна з HBM4, забезпечуючи в 8-16 разів більшу ємність при тому ж об'ємі, зі значними перевагами у вартості, і буде орієнтована на читання-інтенсивні сценарії, такі як інференція довгих контекстів, KV-кеш та потокове завантаження ваг моделей.

Ця технологія, відома як HBF (High Bandwidth Flash), позиціонується між HBM та SSD. Якщо порівнювати HBM з "довідником" на столі, то NAND-оснований HBF — це "книжкова шафа" поруч з GPU. HBM обробляє дані, які потребують негайної реакції, тоді як NAND під GPU зберігає більші обсяги даних для повторного читання/запису.

Мета SanDisk — розробити HBF з пропускною здатністю, близькою до HBM, при цьому забезпечуючи в 8-16 разів більшу ємність за подібної вартості. У лютому 2026 року SanDisk та SK hynix офіційно заснували альянс стандартизації специфікацій HBF. SK hynix надає технології стекування, корпусування та інтерпозера, накопичені в HBM, тоді як SanDisk приносить досвід у дизайні NAND та флеш-пам'яті. Сторони планують випустити перші зразки HBF у другій половині 2026 року, а на початку 2027 року використовувати їх у пристроях для AI-інференції. Метою є створення трирівневої архітектури пам'яті: HBM відповідає за наднизьку затримку для миттєвих обчислень, HBF — за великоємне, високопропускне повторне читання даних, а SSD — за холодне зберігання, кожен рівень виконує свою функцію.

Звісно, HBF все ще потрібно подолати численні перешкоди на шляху до масової комерціалізації. Висока теплова потужність від стекування обчислювальних чіпів та NAND, проблеми з виходом придатного при гібридному з'єднанні та складній розводці, а також програмна екосистема для багаторівневого планування гарячих/холодних даних — все це потребує часу для поступового вдосконалення.

Згідно з прогнозами корейської Shinyoung Securities, ринок HBF може сформуватися до 2027 року і зрости до 12 мільярдів доларів США до 2030 року.

Для хмарних провайдерів з десятками тисяч вузлів це означає значну оптимізацію капітальних витрат. Наразі Structera є першим у галузі комерційно випущеним контролером CXL із вбудованим апаратним стисненням, і відповідне технічне рішення було подано для стандартизації в проекті відкритих обчислень OCP, що в майбутньому ще більше розширить сферу його застосування.

Попередній урок: Незавершений шлях 3D XPoint

Варто зазначити, що використання флеш-пам'яті для розширення основної пам'яті не є новим.

Ще в 2015 році Intel та Micron спільно представили технологію зберігання даних 3D XPoint, бачення якої точно збігалося з сьогоднішньою болючою точкою галузі — створити новий носій даних, продуктивність якого знаходиться між DRAM та NAND-флеш-пам'яттю, з побайтовою адресацією та вартістю, близькою до флеш-пам'яті, будуючи новий рівень між оперативною пам'яттю та традиційними накопичувачами.

На жаль, 3D XPoint не змогла виправдати початкових обіцянок.

Відставання в розробці техпроцесу призвело до того, що її вартість наздогнала DRAM, в той час як продуктивність була лише в кілька разів швидшою за звичайну флеш-пам'ять; у поєднанні із закритою стратегією Intel, яка прив'язала її до власних процесорів Xeon, вона так і не змогла вийти на масовий ринок. Врешті-решт проект було припинено, а бізнес Intel з виробництва флеш-пам'яті було продано SK hynix. Ця технологія, на яку покладали великі надії, стала сумним епізодом в історії індустрії зберігання даних.

Якби Intel не відмовилася від 3D XPoint, наскільки прибутковим був би цей бізнес сьогодні? На жаль, історія не знає умовного способу.

Крім того, деякі китайські стартапи, які займаються рішеннями для об'єднаної пам'яті та пам'яті з обчисленнями, ймовірно, отримають більше уваги в майбутньому. Зрештою, в умовах високих цін на DRAM та стиснення пропозиції, той, хто зможе запропонувати справді надійне рішення для оптимізації пам'яті, матиме шанс отримати наступний раунд фінансування на ринку капіталу.

Післямова

Від провалу 3D XPoint до сьогоднішнього паралельного розвитку багатьох шляхів, індустрія зберігання даних ніколи не припиняла пошуки ефективності пам'яті.

AMD використовує AI для прогнозування та планування гарячих/холодних даних, Apple використовує розріджену активацію та зберігання у флеш-пам'яті для зменшення використання пам'яті на периферійних пристроях, Marvell використовує апаратне стиснення, щоб зробити фізичну пам'ять більш ефективною, а SanDisk використовує 3D-стекування, щоб розмістити NAND під GPU. Технологічні шляхи чотирьох компаній різні, але всі вони вказують в одному напрямку: ієрархія пам'яті для AI-інференції реконструюється — гарячі дані залишаються в DRAM та HBM для забезпечення продуктивності, а теплі та холодні дані поступово мігрують на флеш-рівень для забезпечення ємності, при цьому багатошарові носії координуються для балансування продуктивності та вартості.

Висока вартість DRAM змушує всю галузь йти на "круті заходи". Але саме цей тиск породжує ряд вражаючих технологічних інновацій.

Не можна заперечувати, що фізична прірва в затримці між флеш-пам'яттю та DRAM завжди існуватиме, і фактична продуктивність різних рішень все ще потребує підтвердження при масштабному розгортанні. Але можна з упевненістю сказати, що ера простого нарощування DRAM для вирішення проблем минає, і більш ефективна, багаторівнева система пам'яті є новим напрямком розвитку галузі.

Джерело: Галузеве спостереження за напівпровідниками

Попередження про ризики та відмова від відповідальності

        Ринок має ризики, інвестуйте з обережністю. Ця стаття не є інвестиційною порадою і не враховує особливі інвестиційні цілі, фінансове становище або потреби окремих користувачів. Користувачі повинні враховувати, чи відповідають будь-які думки, погляди або висновки в цій статті їхній конкретній ситуації. Інвестування на основі цього здійснюється на власний ризик.