$NVDA Джонатан Росс каже, що пам’ять — це найбільший вузький місце в штучному інтелекті наразі, але вузькі місця не є постійними.

«Кожного разу, коли вузьке місце стає достатньо великим, люди його вирішують.»
Його попередження полягає в тому, що пам’ять може залишатися надзвичайно цінною, поки вона обмежена, але якщо вона стане занадто дорогою або дефіцитною, це стане проблемою, яку змушені вирішувати інженери.
Якщо пам’ять стане надто великим вузьким місцем, галузь почне шукати способи зменшити її залежність від неї.
Він сказав, що пам’ять — «найбільш комодитизований сегмент ланцюга поставок напівпровідників», але тепер вона є однією з найважливіших обмежень у ШІ.
Росс пояснює це аналогією з товаром Гіффена. Якщо ціна на пам’ять зросте, спочатку клієнти можуть витратити більше на неї, оскільки вона є необхідною. Але з часом, якщо ціни стануть занадто високими, вони шукатимуть замінники.
«Якщо пам’ять занадто дорога і люди не будуть її достатньо виробляти, вони вирішать цю проблему технологічно.»
Приклад DeepSeek підтверджує його думку. Коли інтерв’юер згадує, що DeepSeek V4 стиснув кеш KV на 90%, Росс відповідає, що ця інженерна робота мала альтернативну вартість.
«Якщо б у них було достатньо пам’яті, вони б працювали над чимось іншим. Якби це не було так дорого, вони б працювали над чимось іншим.»
«Ви робите цю проблему достатньо великою. Це високий маковий. Як тільки він стає занадто високим, його зривають.»