Qwen 3.6 27B является идеальным выбором для локальной разработки

robot
Генерация тезисов в процессе
ME AI сообщение: Qwen 3.6 27B — это плотная локальная большая языковая модель, изначально поддерживающая контекст в 256k. При запуске llama.cpp Q8_0 (с предсказанием нескольких токенов) на Macbook Max M5 достигает 30 токенов/с; пользователи сообщают, что на RTX 5090 с квантованием Q6_K достигает 50 токенов/с. Она может с помощью одного запроса выполнять такие задачи, как сочинение креативных стихов, генерация шестиугольной игры "Сапёр" с помощью pnpm. Автор утверждает, что это первая локальная модель, обладающая настоящим общим интеллектом. Также есть MoE-вариация 35B A3B, но автор рекомендует версию 27B. 🔗 Читать оригинал:
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено