Qwen 3.6 27B はローカル開発に理想的な選択です

robot
概要作成中
ME AI メッセージ、Qwen 3.6 27B は稠密パラメータのローカル大規模言語モデルであり、ネイティブで256kコンテキストをサポートしています。Macbook Max M5上でllama.cpp Q8_0量子化版(マルチトークン予測含む)を実行すると30 tokens/sに達し、ユーザーからのフィードバックではRTX 5090上でQ6_K量子化で50 tokens/sに達します。単一のプロンプトでクリエイティブな詩を作成したり、pnpmを使って六角形のマインスイーパーゲームを生成するなどのタスクを実行でき、著者はこれを初めて真に汎用知能を備えたローカルモデルであると述べています。また、MoEバリアントの35B A3Bもありますが、著者は27Bバージョンを推奨しています。 🔗 原文を読む:
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし