蘋果正尋求將更強大的AI能力留在設備端,一家由Khosla Ventures支持的初創公司或許提供了關鍵拼圖。
獲Khosla Ventures投資的初創公司PrismML宣稱,已成功將一個擁有270億參數的AI大模型壓縮至可在iPhone 17 Pro上本地運行,創下移動端AI模型規模的新紀錄。該公司表示,其壓縮技術不會造成性能損失,相關開源模型將於下週二正式發布。
據知情人士透露,蘋果已與PrismML就如何使用其技術舉行了會談。此前據The Information報導,蘋果正積極尋求收購能夠幫助其在設備端運行更多AI功能的公司。消息人士稱,蘋果去年在嘗試將內部AI模型壓縮至適配iPhone時,曾遭遇性能大幅下滑的困境。
PrismML表示,其壓縮的模型為阿里巴巴開發的開源大語言模型Qwen 3.6,參數量達270億。相比之下,目前主流移動端模型每次僅有數十億參數處於激活狀態。
蘋果在今年6月的全球開發者大會上發布的新款設備端模型擁有200億參數,但採用稀疏架構,每次僅有10億至40億參數處於激活狀態。PrismML的模型則在運行時保持全部270億參數同時激活,這一差異被該公司視為核心競爭優勢。
PrismML稱,該模型能夠勝任複雜對話、推理、全自主智能體及軟體編程等任務。
PrismML是加州理工學院(Caltech)的衍生公司。其CEO Babak Hassibi是該校電氣工程學教授,與聯合創始人在校期間完成了支撐該技術的數學研究。Caltech持有相關專利,並將其獨家授權給PrismML。
該公司的核心技術在於透過一種數學方法,將Qwen 3.6模型的體積從約54GB壓縮至不足4GB,壓縮比超過90%,且公司聲稱性能不受影響。
PrismML今年早些時候完成了1625萬美元的種子輪融資,Khosla Ventures參與其中。Khosla Ventures創始人Vinod Khosla在接受採訪時表示,他對PrismML感興趣,是因為該公司提供了一種「根本性的突破」。「我們在2018年投資OpenAI時重注押注了Transformer模型,但建構AI的新方式是什麼?我們的團隊始終在尋找新的路徑。」他說。
蘋果長期以來將設備端AI作為其隱私與安全承諾的核心支柱,並在很大程度上迴避了微軟、亞馬遜、Meta等科技巨頭耗資數千億美元的數據中心軍備競賽。
然而,蘋果在今年6月宣布的姍姍來遲的Siri重大升級,仍依賴谷歌的Gemini模型,其最先進的功能需要調用運行在谷歌雲上的英偉達晶片。這一現狀與蘋果的設備端AI願景存在明顯落差,也使PrismML的技術對蘋果具有潛在的戰略價值。
Hassibi預測,未來三年內,用戶所需的絕大多數AI計算將在本地完成。「想像一下,也許三年後,你所需要的95%的智能都可以在本地獲得——在你的手機、筆記型電腦、家電上——真正需要去雲端的,可能只剩最後5%的高端需求,」他說,「我認為這就是人們所看到的前進方向。」
並非所有業內人士都認同純設備端AI的路線。初創公司Argmax等採用混合架構,將語音和圖像等處理任務在設備端完成,再將資訊上傳至雲端進行更複雜的推理。
混合架構的支持者指出,雲端大模型目前仍在以每週更新的速度快速迭代,完全運行在設備端的AI模型將難以享受到最新、最先進雲端模型帶來的性能紅利。這一挑戰也是PrismML在商業化路徑上需要持續應對的核心問題之一。
PrismML表示,公司計劃繼續將更大規模的模型——包括萬億參數級別的模型——壓縮至設備端運行,屆時將進入與OpenAI GPT及Anthropic Claude同台競技的領域。
風險提示及免責條款
市場有風險,投資需謹慎。本文不構成個人投資建議,也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資,責任自負。
16.41萬 熱度
72.89萬 熱度
254.69萬 熱度
397.49萬 熱度
13.77萬 熱度
蘋果設備端AI迎關鍵拼圖?iPhone首次塞進270億參數大模型
蘋果正尋求將更強大的AI能力留在設備端,一家由Khosla Ventures支持的初創公司或許提供了關鍵拼圖。
獲Khosla Ventures投資的初創公司PrismML宣稱,已成功將一個擁有270億參數的AI大模型壓縮至可在iPhone 17 Pro上本地運行,創下移動端AI模型規模的新紀錄。該公司表示,其壓縮技術不會造成性能損失,相關開源模型將於下週二正式發布。
據知情人士透露,蘋果已與PrismML就如何使用其技術舉行了會談。此前據The Information報導,蘋果正積極尋求收購能夠幫助其在設備端運行更多AI功能的公司。消息人士稱,蘋果去年在嘗試將內部AI模型壓縮至適配iPhone時,曾遭遇性能大幅下滑的困境。
270億參數全量激活,刷新移動端AI紀錄
PrismML表示,其壓縮的模型為阿里巴巴開發的開源大語言模型Qwen 3.6,參數量達270億。相比之下,目前主流移動端模型每次僅有數十億參數處於激活狀態。
蘋果在今年6月的全球開發者大會上發布的新款設備端模型擁有200億參數,但採用稀疏架構,每次僅有10億至40億參數處於激活狀態。PrismML的模型則在運行時保持全部270億參數同時激活,這一差異被該公司視為核心競爭優勢。
PrismML稱,該模型能夠勝任複雜對話、推理、全自主智能體及軟體編程等任務。
數學壓縮技術源自加州理工,專利獨家授權
PrismML是加州理工學院(Caltech)的衍生公司。其CEO Babak Hassibi是該校電氣工程學教授,與聯合創始人在校期間完成了支撐該技術的數學研究。Caltech持有相關專利,並將其獨家授權給PrismML。
該公司的核心技術在於透過一種數學方法,將Qwen 3.6模型的體積從約54GB壓縮至不足4GB,壓縮比超過90%,且公司聲稱性能不受影響。
PrismML今年早些時候完成了1625萬美元的種子輪融資,Khosla Ventures參與其中。Khosla Ventures創始人Vinod Khosla在接受採訪時表示,他對PrismML感興趣,是因為該公司提供了一種「根本性的突破」。「我們在2018年投資OpenAI時重注押注了Transformer模型,但建構AI的新方式是什麼?我們的團隊始終在尋找新的路徑。」他說。
蘋果的設備端AI戰略與潛在收購邏輯
蘋果長期以來將設備端AI作為其隱私與安全承諾的核心支柱,並在很大程度上迴避了微軟、亞馬遜、Meta等科技巨頭耗資數千億美元的數據中心軍備競賽。
然而,蘋果在今年6月宣布的姍姍來遲的Siri重大升級,仍依賴谷歌的Gemini模型,其最先進的功能需要調用運行在谷歌雲上的英偉達晶片。這一現狀與蘋果的設備端AI願景存在明顯落差,也使PrismML的技術對蘋果具有潛在的戰略價值。
Hassibi預測,未來三年內,用戶所需的絕大多數AI計算將在本地完成。「想像一下,也許三年後,你所需要的95%的智能都可以在本地獲得——在你的手機、筆記型電腦、家電上——真正需要去雲端的,可能只剩最後5%的高端需求,」他說,「我認為這就是人們所看到的前進方向。」
混合架構派提出挑戰
並非所有業內人士都認同純設備端AI的路線。初創公司Argmax等採用混合架構,將語音和圖像等處理任務在設備端完成,再將資訊上傳至雲端進行更複雜的推理。
混合架構的支持者指出,雲端大模型目前仍在以每週更新的速度快速迭代,完全運行在設備端的AI模型將難以享受到最新、最先進雲端模型帶來的性能紅利。這一挑戰也是PrismML在商業化路徑上需要持續應對的核心問題之一。
PrismML表示,公司計劃繼續將更大規模的模型——包括萬億參數級別的模型——壓縮至設備端運行,屆時將進入與OpenAI GPT及Anthropic Claude同台競技的領域。
風險提示及免責條款