鋪路Siri升級?蘋果傳洽談AI壓縮技術 iPhone將直跑270億參數大模型
蘋果 (AAPL-US) 積極強化 AI 布局,傳正與矽谷新創 PrismML 展開初步合作洽談,評估將其 AI 模型壓縮技術導入 iPhone。若合作成真,可望讓高達 270 億參數的大型 AI 模型直接在手機端本地運行,不僅有助提升 Siri 的 AI 能力,也能進一步強化蘋果主打的隱私保護優勢,提升智慧終端競爭力。
儘管目前雙方的洽談仍處於極為早期的階段,未來走向尚不明朗,但據 PrismML 執行長表示,雙方的評估工作「進展順利」。這項消息披露的時機點相當微妙,正值蘋果推出 iOS 27 公測版的隔日。
這版系統是蘋果對 Siri 進行大幅改版後,首次向廣大公眾開放的測試版本,目標直指 OpenAI 與 Anthropic 等強勁對手,顯示出蘋果在 AI 助手競爭中急起直追的企圖心。
壓縮技術跨越算力藩籬
PrismML 這家新創公司是由加州理工學院的研究團隊孵化而出,並獲得了 Khosla Ventures 的強力支持。
該公司週二 (14 日) 對外公開發布了一個震撼性的成果:透過其特有的壓縮技術,成功將原本需要約 54GB 儲存空間的阿里巴巴(09988-HK) 開源模型 Qwen,壓縮至不足 4GB,使得包含 270 億參數的龐大模型,能夠在配備現代處理器的 iPhone 15 或更新機型上順暢運行。
根據 PrismML 的官方說明,這項技術的核心在於大幅簡化了模型內部資訊的儲存架構,將每個數值由傳統的 16 位元簡化至僅需 1 至 3 個可能值。
這項創新顯著降低了運行模型所需的記憶體空間,據稱記憶體佔用減少了 10 至 15 倍,響應速度提升了 6 至 8 倍,能耗則降低了 3 至 6 倍。
不過,執行長 Babak Hassibi 也坦承,技術上存在必然的取捨,雖然大部分能力得以保留,但模型的事實性記憶能力在壓縮後會較推理、數學和程式設計能力更早出現衰退。
隱私與效率的雙重奏
對於蘋果而言,將更多的 AI 運算留在設備本地,不僅僅是技術上的炫技,更是其核心產品哲學的延伸。目前的蘋果裝置已能處理部分基礎的本地 AI 功能,如自動翻譯、摘要生成等,但較為複雜的請求仍需路由至私有雲或外部模型。
分析人士指出,若能將絕大多數的 Siri 互動轉移至裝置本地,蘋果將能實現更低的響應延遲、更少的雲端運算成本,並賦予手機在無網絡連線狀態下使用部分 AI 功能的能力。
這與蘋果向來強打的「隱私保護」定位高度契合,能有效減少敏感數據上傳雲端的風險。
隨著模型體積的縮小,蘋果亦有望將更多高需求功能移至手機端,包含更強大的計算攝影、視訊生成,以及需要處理高度敏感個人健康數據的健身工具。
技術的關鍵挑戰
儘管技術指標亮眼,分析師對於這項技術的商業化前景,仍抱持審慎樂觀的態度。Counterpoint Research 研究總監 Tarun Pathak 強調,實驗室內的演示與真實世界的大規模應用是兩回事。
模型在長提示下的表現、多工處理時的電池消耗,以及在數百萬次查詢與千變萬化的設備組合中是否足夠穩健,都將是未來面臨的關鍵門檻。
此外,功耗控制亦是極大的未知變數。即便記憶體佔用極低,若模型需在後台頻繁運行以執行智能代理任務,其對手機電力的損耗恐不容小覷。
對於市場爭論的「模型瘦身是否會導致晶片需求下滑」,DA Davidson 分析師 Gil Luria 則表示,需求更像是發生了轉移,而非消失。
他指出,在單一設備上運行 AI 並不會取代對 GPU 或內存的需求,反而可能因為體驗提升而催生更多使用需求。
PrismML 的技術為蘋果在硬體與軟體協同設計的先天優勢上,提供了全新的發展路徑。隨著 AI 運算重心向邊緣設備傾斜,這場發生在矽谷新創與科技巨頭間的「模型壓縮競賽」,無疑將成為決定 Siri 下一代競爭力的關鍵戰場。
更多鉅亨報導
•蘋果遭降評恐跌21%!分析師揭3大隱憂
•蘋果躲過328億美元求償!iCloud兒少性虐集體訴訟遭法院駁回:無須為用戶上傳內容負責