Тяньфенг Цзяньцзюнь: Революція зберігання на основі ШІ вже настала "Зберігання замість обчислень" відкриває нову еру зберігання

robot
Генерація анотацій у процесі

Jin10 дані 27 вересня, звіт Tianfeng Securities зазначає, що для подолання瓶颈 обчислювальної потужності та обмежень "стінки зберігання" технологія "зберігання замість обчислень" як революційна технологічна парадигма з'явилася. Ця технологія переносить векторні дані (такі як KVCache) з дорогих DRAM та HBM відеопам'ятей на великі, економічно вигідні SSD-носії, здійснюючи стратегічне розширення зберігання з пам'яті до SSD, а не просту заміну. Її основна цінність полягає в значному зниженні затримки при першому токені, підвищенні пропускної спроможності висновків та суттєвій оптимізації вартості висновків від початку до кінця, що забезпечує реальний шлях для масштабного впровадження AI. Революція зберігання AI вже настала, "зберігання замість обчислень" створює основні можливості, суттєво економлячи споживання обчислювальної потужності, прискорюючи висновки AI та сприяючи зростанню попиту на SSD, яке перевищує традиційну криву.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Пов'язані теми
#
ai
Прокоментувати
0/400
Немає коментарів
  • Закріпити