ME News のニュース、4月1日(UTC+8)。近日、27Bパラメータ規模のモデルが、ローカルの16GBメモリ(VRAM)のGPU上で4ビット量子化して動作させたところ、SWE-bench ベンチマークで Claude Sonnet 4.5 よりも優れた結果を示したとのことが報じられました。この記事の見解によれば、このモデルは Claude 4 Opus と同等の推論能力を提供しつつ、必要なリソースはより少ないとのことです。このモデルの v2 版では、思考連鎖(chain-of-thought)の冗長性を24%削減しながら、HumanEval の精度は96.91%を維持しています。(出典:InFoQ)
27Bパラメータモデルは16GBのGPUで動作し、推論能力はClaude 4 Opusに近いとされている
ME News のニュース、4月1日(UTC+8)。近日、27Bパラメータ規模のモデルが、ローカルの16GBメモリ(VRAM)のGPU上で4ビット量子化して動作させたところ、SWE-bench ベンチマークで Claude Sonnet 4.5 よりも優れた結果を示したとのことが報じられました。この記事の見解によれば、このモデルは Claude 4 Opus と同等の推論能力を提供しつつ、必要なリソースはより少ないとのことです。このモデルの v2 版では、思考連鎖(chain-of-thought)の冗長性を24%削減しながら、HumanEval の精度は96.91%を維持しています。(出典:InFoQ)