MEニュースのメッセージ。4月1日(UTC+8)。最近、27Bパラメータ規模のモデルが、ローカルの16GB VRAM GPU上で4ビット量子化して動作させたとき、SWE-benchベンチマークでClaude Sonnet 4.5よりも優れていたという情報が伝えられている。この記事の見解によれば、このモデルはClaude 4 Opusと同等の推論能力を提供できる一方で、必要なリソースはより少ないという。モデルのv2バージョンでは、思考連鎖(chain-of-thought)の冗長性を24%削減しつつ、HumanEvalの正確率は96.91%を維持している。(出所:InFoQ)
27Bパラメータモデルは16GBのGPUで動作し、推論能力はClaude 4 Opusに近いとされている
MEニュースのメッセージ。4月1日(UTC+8)。最近、27Bパラメータ規模のモデルが、ローカルの16GB VRAM GPU上で4ビット量子化して動作させたとき、SWE-benchベンチマークでClaude Sonnet 4.5よりも優れていたという情報が伝えられている。この記事の見解によれば、このモデルはClaude 4 Opusと同等の推論能力を提供できる一方で、必要なリソースはより少ないという。モデルのv2バージョンでは、思考連鎖(chain-of-thought)の冗長性を24%削減しつつ、HumanEvalの正確率は96.91%を維持している。(出所:InFoQ)