UnslothAI が Apple Silicon 向けに最適化された 4-bit MLX 版 DGEMMA 4-31B をリリース

robot
概要作成中

ME News ニュース、4月11日(UTC+8)、UnslothAIは最近、DGEMMA 4-31Bモデルのネイティブ4ビットMLX最適化バージョンをリリースしました。このバージョンはApple Silicon向けに設計されており、すべてのMシリーズMacで非常に高速な推論速度を実現しながら、効率的なメモリ使用量(約20GBのRAM)を維持するとされています。さらに、このモデルは強力なマルチモーダルおよびビジョン性能を備え、完全な256Kのコンテキスト長とネイティブの関数呼び出し機能をサポートしています。(出典:InFoQ)

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め