MEニュース、4月17日（UTC+8）、動察Beatingの監視によると、PrismMLはTernary Bonsaiシリーズの言語モデルを発表しました。1.58ビット（ternary weights）技術を用いて、高性能を維持しつつモデルのGPUメモリ占有量を16ビットモデルの9分の1に削減しています。このシリーズは8B、4B、1.7Bの3つのパラメータ規模を含み、既にHugging Faceでオープンソース化され、Appleデバイスでネイティブに動作可能です。 いわゆる1.58ビットモデルは、ニューラルネットワークの重みを{-1, 0, +1}の3つの値に制限したものです。従来の極限圧縮を追求した1ビットモデル（重みは{-1, +1}のみ）と比べ、「0」値を導入することで冗長な接続を効果的に排除し、非常に小さなサイズでも複雑な推論能力を保持できます。今回発表されたTernary Bonsai 8Bの重みファイルはわずか1.75GBで、ベンチマークの平均スコアは75.5に達し、自社の1ビットバージョンより5ポイント高いだけでなく、「スマート密度」（1GBのGPUメモリあたりの性能貢献度）においてQwen3などの同類密なモデルを大きくリードしています。 エネルギー効率と動作速度もこのシリーズのもう一つの重要な強みです。iPhone 17 Pro Max上では、8Bバージョンの動作速度は27トーク/秒に達し、エネルギー効率比は約3〜4倍向上しています。これは、スマートフォンやノートパソコンなどのエッジデバイス上で高性能AIを展開する開発者にとって、ほぼ完全な精度のモデルを少ないメモリコストで実現できることを意味します。 現在、Ternary BonsaiモデルはAppleデバイス上でMLXフレームワークを通じてネイティブサポートされています。モデルの重みはApache 2.0ライセンスで配布されています。 （出典：BlockBeats）
PrismMLが1.58ビットモデルのTernary Bonsaiをリリース、パラメータを9倍削減し、知能度で同類を凌駕
いわゆる1.58ビットモデルは、ニューラルネットワークの重みを{-1, 0, +1}の3つの値に制限したものです。従来の極限圧縮を追求した1ビットモデル（重みは{-1, +1}のみ）と比べ、「0」値を導入することで冗長な接続を効果的に排除し、非常に小さなサイズでも複雑な推論能力を保持できます。今回発表されたTernary Bonsai 8Bの重みファイルはわずか1.75GBで、ベンチマークの平均スコアは75.5に達し、自社の1ビットバージョンより5ポイント高いだけでなく、「スマート密度」（1GBのGPUメモリあたりの性能貢献度）においてQwen3などの同類密なモデルを大きくリードしています。
エネルギー効率と動作速度もこのシリーズのもう一つの重要な強みです。iPhone 17 Pro Max上では、8Bバージョンの動作速度は27トーク/秒に達し、エネルギー効率比は約3〜4倍向上しています。これは、スマートフォンやノートパソコンなどのエッジデバイス上で高性能AIを展開する開発者にとって、ほぼ完全な精度のモデルを少ないメモリコストで実現できることを意味します。
現在、Ternary BonsaiモデルはAppleデバイス上でMLXフレームワークを通じてネイティブサポートされています。モデルの重みはApache 2.0ライセンスで配布されています。
（出典：BlockBeats）