bartowski опублікував файл GGUF для кількісного IQ4_NL на основі Gemma-4 26B-A4B-it MoE

robot
Генерація анотацій у процесі

Новини ME, повідомлення від 4 квітня (UTC+8). Нещодавно користувач @outsource_ опублікував повідомлення про те, що квантований GGUF-файл IQ4_NL на основі моделі Google Gemma-4 26B-A4B-it MoE уже випущено. Загалом ця модель має приблизно 26 мільярдів параметрів, а під час активації задіюється приблизно 4 мільярди параметрів. Квантований файл підготував bartowski; для доопрацювання та квантування використано imatrix із llama.cpp. Після квантування назва файлу: gemma-4-26B-A4B-it-IQ4_NL.gguf, розмір становить 14.70 GB. (Джерело: InFoQ)

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити