MEニュース、4月17日（UTC+8）、動察Beatingの監視によると、PrismMLはTernary Bonsaiシリーズの言語モデルを発表しました。1.58ビット（三値重み）技術を用いて、高性能を維持しつつモデルのGPUメモリ占有量を16ビットモデルの9分の1に削減しています。このシリーズは8B、4B、1.7Bの3つのパラメータ規模を含み、既にHugging Faceでオープンソース化され、Appleデバイスでネイティブに動作可能です。 いわゆる1.58ビットモデルは、ニューラルネットワークの重みを{-1、0、+1}の3つの値に制限したものを指します。従来の極限まで圧縮を追求した1ビットモデル（重みは{-1、+1}のみ）と比べて、「0」値を導入することで冗長な接続を効果的に排除し、非常に小さなサイズでも複雑な推論能力を保持できるようになっています。今回発表されたTernary Bonsai 8Bの重みファイルはわずか1.75GBで、ベンチマークの平均スコアは75.5に達し、自社の1ビットバージョンより5ポイント高く、「インテリジェンス密度」（1GBのGPUメモリあたりの性能寄与）においてもQwen3などの同類密なモデルを大きくリードしています。 エネルギー効率と動作速度はこのシリーズのもう一つの重要な強みです。iPhone 17 Pro Max上では、8Bバージョンの動作速度は27トーク/秒に達し、エネルギー効率比は約3〜4倍向上しています。これは、スマートフォンやノートパソコンなどのエッジデバイス上で高性能AIを展開する開発者にとって、最小限のメモリコストでほぼ完全な精度のモデルのインテリジェンス性能を得られることを意味します。 現在、Ternary BonsaiモデルはAppleデバイス上でMLXフレームワークを通じてネイティブサポートされています。モデルの重みはApache 2.0ライセンスで配布されています。 （出典：BlockBeats）
PrismMLが1.58ビットモデルのTernary Bonsaiをリリース、パラメータを9倍削減し、知能度は同類を上回る
いわゆる1.58ビットモデルは、ニューラルネットワークの重みを{-1、0、+1}の3つの値に制限したものを指します。従来の極限まで圧縮を追求した1ビットモデル（重みは{-1、+1}のみ）と比べて、「0」値を導入することで冗長な接続を効果的に排除し、非常に小さなサイズでも複雑な推論能力を保持できるようになっています。今回発表されたTernary Bonsai 8Bの重みファイルはわずか1.75GBで、ベンチマークの平均スコアは75.5に達し、自社の1ビットバージョンより5ポイント高く、「インテリジェンス密度」（1GBのGPUメモリあたりの性能寄与）においてもQwen3などの同類密なモデルを大きくリードしています。
エネルギー効率と動作速度はこのシリーズのもう一つの重要な強みです。iPhone 17 Pro Max上では、8Bバージョンの動作速度は27トーク/秒に達し、エネルギー効率比は約3〜4倍向上しています。これは、スマートフォンやノートパソコンなどのエッジデバイス上で高性能AIを展開する開発者にとって、最小限のメモリコストでほぼ完全な精度のモデルのインテリジェンス性能を得られることを意味します。
現在、Ternary BonsaiモデルはAppleデバイス上でMLXフレームワークを通じてネイティブサポートされています。モデルの重みはApache 2.0ライセンスで配布されています。
（出典：BlockBeats）