vkhosla представляє 1-бітову модель Bonsai 8B, яка займає всього 1,15 ГБ пам’яті

robot
Генерація анотацій у процесі

Новини ME: повідомлення, 1 квітня (UTC+8). Нещодавно автор vkhosla у соціальних мережах розповів про модель 1-бітових ваг під назвою 1-bit Bonsai 8B. Згідно з його описом, модель використовує пам’ять лише 1,15 ГБ, а її щільність інтелекту (intelligence density), як стверджується, перевищує відповідну їй повнозначну модель більш ніж у 10 разів. У тексті зазначено, що на граничному (edge) обладнанні обсяг цієї моделі зменшено в 14 разів, швидкість підвищено в 8 разів, енергоефективність збільшено в 5 разів, і водночас порівняно з іншими моделями вона все ще залишається конкурентоспроможною. Повідомлення також згадує, що ця модель має кращу стисливість, швидкість, менший обсяг і вищу енергоефективність, ніж модель, яку Google оголосила напередодні. У першоджерелі не наведено конкретних бенчмарків порівняння продуктивності моделі, відомостей про того, хто її випустив, технічних деталей реалізації чи результатів повної оцінки. (Джерело: InFoQ)

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Популярні активності Gate Fun

    Дізнатися більше
  • Рин. кап.:$2.24KХолдери:1
    0.00%
  • Рин. кап.:$2.24KХолдери:0
    0.00%
  • Рин. кап.:$2.23KХолдери:1
    0.00%
  • Рин. кап.:$2.24KХолдери:1
    0.00%
  • Рин. кап.:$0.1Холдери:0
    0.00%
  • Закріпити