vkhoslaが1ビットBonsai 8Bモデルを紹介、メモリ使用量はわずか1.15GB

MEニュースのメッセージ。4月1日（UTC+8）。このほど、著者のvkhoslaがソーシャルメディア上で、1ビットボンサイ8Bという名の1ビット重みモデルを紹介しました。紹介によると、このモデルのメモリ使用量はわずか1.15GBであり、またそのインテリジェンス密度（intelligence density）は、対応する全精度モデルの10倍以上だとされています。記事で示された見解では、エッジ用のハードウェア上で、このモデルは体積が14分の1に縮小され、速度が8倍に向上し、エネルギー効率も5倍向上したということです。同時に、他のモデルと比べても競争力を維持しているとも述べられています。なお、ニュースでは、このモデルは前日にGoogleが発表したモデルよりも、圧縮性が高く、速度が速く、体積が小さく、エネルギー効率も高いと触れています。原文には、モデルの具体的な性能比較ベンチマーク、発表元、技術的な実装の詳細、または完全な評価結果は示されていません。（出所：InFoQ）