PrismMLはQwen3.6を4GBに圧縮し、27BモデルをiPhoneに搭載

動察 Beating のモニタリングによると、カリフォルニア工科大学の数学者 Babak Hassibi が共同設立したAI研究所 PrismML は、アリババのオープンソースモデル Qwen3.6-27B を圧縮して iPhone 17 Pro で動作させたと発表した。

Qwen3.6-27B は270億パラメータの高密度モデルである。推論時にはすべてのパラメータが参加し、一部のパラメータのみを活性化するMoEモデルではない。

PrismML によると、モデルサイズは約54GBから4GB未満に圧縮され、性能は顕著に低下していない。複雑な対話、推論、エージェント、コードタスクに使用できる。

AppleはすでにPrismMLと接触し、この技術の活用方法について議論している。Appleはこれまでもより多くのAIをデバイスローカルに搭載しようと努めてきたが、高度なSiriは依然としてクラウドモデルに依存している。