MEニュースの情報、4月1日(UTC+8)。近日、27Bパラメータ規模のモデルが、ローカルの16GBメモリGPU上で4ビット量子化で動作させたところ、SWE-benchベンチマークでClaude Sonnet 4.5よりも優れた結果を示したという情報がありました。記事の見解によれば、このモデルはClaude 4 Opusに匹敵する推論能力を提供できる一方で、必要なリソースはより少ないとのことです。このモデルのv2バージョンでは、思考連鎖(chain-of-thought)の冗長性を24%削減しつつ、HumanEvalの正確性は96.91%を維持しています。(出典:InFoQ)
27Bパラメータモデルは16GBのGPUで動作し、推論能力はClaude 4 Opusに近いとされている
MEニュースの情報、4月1日(UTC+8)。近日、27Bパラメータ規模のモデルが、ローカルの16GBメモリGPU上で4ビット量子化で動作させたところ、SWE-benchベンチマークでClaude Sonnet 4.5よりも優れた結果を示したという情報がありました。記事の見解によれば、このモデルはClaude 4 Opusに匹敵する推論能力を提供できる一方で、必要なリソースはより少ないとのことです。このモデルのv2バージョンでは、思考連鎖(chain-of-thought)の冗長性を24%削減しつつ、HumanEvalの正確性は96.91%を維持しています。(出典:InFoQ)