19-11-2026 11:10:59
Три подержанные видеокарты NVIDIA V100 выдают 100 токенов в секунду при работе с Qwen 3.6 35B в домашней лабораторной системе стоимостью 1 042 доллара, обгоняя Mac Studio с M5 Max за 5 399 долларов
По данным Tom's Hardware, энтузиаст, собирающий домашние лабораторные стенды, недавно добился скорости 100,8 токена в секунду, запустив Qwen 3.6 с 35 млрд параметров на трёх бывших в употреблении ускорителях NVIDIA V100 в самодельной системе стоимостью 1 042 доллара. Эта конфигурация на списанных ускорителях показала лучшие результаты, чем Apple Mac Studio с M5 Max стоимостью 5 399 долларов, 40-ядерным графическим процессором и 128 ГБ памяти, при работе с длинными контекстными окнами: при длине