MEニュース 4月17日（UTC+8）、動察Beatingの監視によると、PrismMLはTernary Bonsaiシリーズの言語モデルを発表しました。1.58ビット（三進数重み）技術を用いて、高性能を維持しつつモデルのGPUメモリ占有量を16ビットモデルの9分の1に削減しています。このシリーズは8B、4B、1.7Bの3つのパラメータ規模を含み、既にHugging Faceでオープンソース化され、Appleデバイスでネイティブに動作可能です。 いわゆる1.58ビットモデルは、ニューラルネットワークの重みを{-1、0、+1}の3つの値に制限したものです。従来の極限まで圧縮を追求した1ビットモデル（重みは{-1、+1}のみ）と比べて、「0」の値を導入することで冗長な接続を効果的に排除し、非常に小さなサイズでも複雑な推論能力を保持できます。今回発表されたTernary Bonsaiの8B重みファイルはわずか1.75GBで、ベンチマークの平均スコアは75.5に達し、自社の1ビットバージョンより5ポイント高いだけでなく、「スマート密度」（GBあたりの性能寄与）においてQwen3などの同類密なモデルを大きく上回っています。 エネルギー効率と動作速度もこのシリーズのもう一つの重要な強みです。iPhone 17 Pro Max上では、8Bバージョンの動作速度は27トーク/秒に達し、エネルギー効率は約3〜4倍向上しています。これは、スマートフォンやノートパソコンなどのエッジデバイス上で高性能AIを展開する開発者にとって、最小限のメモリコストでほぼ完全な精度のモデルの知能性能を得られることを意味します。 現在、Ternary BonsaiモデルはAppleデバイス上でMLXフレームワークを通じてネイティブサポートされています。モデルの重みはApache 2.0ライセンスで配布されています。 （出典：BlockBeats）
PrismMLが1.58ビットモデルTernary Bonsaiをリリース、パラメータを9倍削減し、知能度は同類を上回る
いわゆる1.58ビットモデルは、ニューラルネットワークの重みを{-1、0、+1}の3つの値に制限したものです。従来の極限まで圧縮を追求した1ビットモデル（重みは{-1、+1}のみ）と比べて、「0」の値を導入することで冗長な接続を効果的に排除し、非常に小さなサイズでも複雑な推論能力を保持できます。今回発表されたTernary Bonsaiの8B重みファイルはわずか1.75GBで、ベンチマークの平均スコアは75.5に達し、自社の1ビットバージョンより5ポイント高いだけでなく、「スマート密度」（GBあたりの性能寄与）においてQwen3などの同類密なモデルを大きく上回っています。
エネルギー効率と動作速度もこのシリーズのもう一つの重要な強みです。iPhone 17 Pro Max上では、8Bバージョンの動作速度は27トーク/秒に達し、エネルギー効率は約3〜4倍向上しています。これは、スマートフォンやノートパソコンなどのエッジデバイス上で高性能AIを展開する開発者にとって、最小限のメモリコストでほぼ完全な精度のモデルの知能性能を得られることを意味します。
現在、Ternary BonsaiモデルはAppleデバイス上でMLXフレームワークを通じてネイティブサポートされています。モデルの重みはApache 2.0ライセンスで配布されています。
（出典：BlockBeats）