UnslothAI випустила оптимізовану для Apple Silicon версію DGEMMA 4-31B з 4-бітовим MLX

robot
Генерація анотацій у процесі

ME News Новини, 11 квітня (UTC+8), UnslothAI нещодавно випустила нативну версію оптимізовану для 4-бітового MLX моделі DGEMMA 4-31B. Ця версія спеціально розроблена для Apple Silicon і, за словами розробників, може забезпечити надзвичайно швидкий час обробки на всіх Mac з серії M, при цьому зберігаючи ефективне використання пам’яті (приблизно 20 ГБ ОЗУ). Крім того, ця модель має потужні мультимодальні та візуальні можливості, підтримує повну довжину контексту 256K та нативну функцію виклику функцій. (Джерело: InFoQ)

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено