bartowski опублікував файл GGUF для кількісного IQ4_NL на основі Gemma-4 26B-A4B-it MoE

robot
Генерація анотацій у процесі

Новини ME, повідомлення від 4 квітня (UTC+8): нещодавно користувач @outsource_ опублікував повідомлення про те, що доступні IQ4_NL квантовані GGUF-файли на основі моделі Google Gemma-4 26B-A4B-it MoE. Загалом ця модель має приблизно 26 мільярдів параметрів, а активує близько 4 мільярдів параметрів. Квантовані файли створив bartowski, а для доопрацювання та квантування було використано imatrix із llama.cpp. Квантований файл має назву gemma-4-26B-A4B-it-IQ4_NL.gguf, і його розмір становить 14.70 GB. (Джерело: InFoQ)

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити