NVIDIA після покупки Groq на 20 мільярдів доларів вперше обговорює стратегію: токени для логіки потрібно оцінювати за якістю, низька затримка та висока ціна за одиницю — новий напрямок

ME News Новини, 16 квітня (UTC+8), згідно з моніторингом Датчі Beating, Хуанг Женьхун у перший раз детально пояснив стратегічну логіку покупки NVIDIA компанії Groq. У грудні минулого року NVIDIA придбала бізнес процесорів для розпізнавання Groq за 20 мільярдів доларів, засновник Groq Джонатан Росс та ключова команда приєдналися до NVIDIA, а Groq продовжує працювати як незалежна компанія. У березні на конференції GTC NVIDIA представила перший чіп після злиття — Groq 3 LPU, виготовлений за 4-нм технологією Samsung, NVIDIA заявила, що його обчислювальна пропускна здатність на ват для моделей з трильйонами параметрів у 35 разів перевищує Blackwell NVL72. Хуанг Женьхун сказав, що мотивація для купівлі Groq — це ієрархія ринку розпізнавання. Раніше оптимізація розпізнавання мала лише один напрямок: підвищення пропускної здатності. Але комерційна цінність токенів значно зросла, і різні користувачі готові платити різну ціну за різну швидкість відповіді. «Якщо я можу надати програмістам швидший токен, щоб вони були ефективнішими, я готовий платити за це. Але цей ринок з’явився лише нещодавно». Він описав це як розширення парето-краю ринку розпізнавання: додавання сегмента з низькою затримкою та високою ціною, що виходить за межі існуючих високопродуктивних рішень. Для однієї й тієї ж моделі, диференційоване ціноутворення за швидкістю відповіді: «хоча пропускна здатність нижча, ціна може компенсувати». Архітектура Groq LPU відома своєю детермінованою низькою затримкою, що доповнює високопродуктивний шлях GPU NVIDIA, і купівля заповнює прогалину у лінійці продуктів для розпізнавання NVIDIA. (Джерело: BlockBeats)