NVIDIA відкриває вихідний код архітектури TwoTower, досягаючи прискорення генерації тексту в 2,42 рази
За даними Beating, NVIDIA відкрила вихідний код Nemotron-Labs-TwoTower — дискретної архітектури дифузії тексту, призначеної для прискорення генерації тексту великими мовними моделями. Двобаштова конструкція розділяє заморожену авторегресійну модель, яка зберігає здатність до міркувань, і навчальну вежу знешумлення, що генерує текст паралельно. Використовуючи лише 1/12 базових даних попереднього навчання на моделі Mamba-Transformer mixture-of-experts із 30 мільярдами параметрів, TwoTower зберіг 9
NVDA0,87%
GateNews·07-02 08:57
