Tencent ця хвиля операцій була дуже вмілою, модель перекладу з 1.8B параметрів насправді може працювати майже на рівні 32B, ще й підтримує 2-біт і 1.25-бітні легкі версії. На телефоні працює без будь-яких проблем, ця хвиля одразу підняла досвід роботи з великими моделями до доступного рівня. Здається, розмір моделі не є єдиним стандартом, маленькі моделі також можуть мати великі можливості, і в майбутньому мобільні AI-додатки злетять. Цей хід Tencent був дуже точним, він контролює витрати і водночас гарантує ефективність, конкуренція великих моделей починає рухатися у напрямку оптимізації.

Переглянути оригінал
post-image
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити