27Bの稠密モデルをポケットに収める、この圧縮率は常軌を逸している、Appleもついに動き出したか?

AAPL-0.45%
原文表示
CoinNetwork
币界网の報道によると、PrismMLは、アリババのオープンソースモデルQwen3.6-27Bを約4GBに圧縮し、iPhone 17 Pro上で動作させることに成功したと述べた。
Qwen3.6-27Bは270億パラメータを持つ稠密モデルであり、推論時にはすべてのパラメータが計算に関与し、一部のパラメータのみを活性化するMOEモデルではない。
PrismMLは、モデルサイズが約54GBから4GB未満に圧縮され、性能に顕著な低下はなく、複雑な対話、推論、エージェント、コードタスクに適していると述べた。
アップル社はPrismMLと接触し、この技術を自社のデバイスに適用する方法について議論している。ただし、高度なSiriは依然としてクラウドモデルに依存している。
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め