請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

鋪路Siri升級?蘋果傳洽談AI壓縮技術 iPhone將直跑270億參數大模型

anue鉅亨網

更新於 2小時前 • 發布於 2小時前
圖:Pixabay/Unsplash/Pexel

蘋果 (AAPL-US) 積極強化 AI 布局,傳正與矽谷新創 PrismML 展開初步合作洽談,評估將其 AI 模型壓縮技術導入 iPhone。若合作成真,可望讓高達 270 億參數的大型 AI 模型直接在手機端本地運行,不僅有助提升 Siri 的 AI 能力,也能進一步強化蘋果主打的隱私保護優勢,提升智慧終端競爭力。

儘管目前雙方的洽談仍處於極為早期的階段,未來走向尚不明朗,但據 PrismML 執行長表示,雙方的評估工作「進展順利」。這項消息披露的時機點相當微妙,正值蘋果推出 iOS 27 公測版的隔日。

這版系統是蘋果對 Siri 進行大幅改版後,首次向廣大公眾開放的測試版本,目標直指 OpenAI 與 Anthropic 等強勁對手,顯示出蘋果在 AI 助手競爭中急起直追的企圖心。

壓縮技術跨越算力藩籬

PrismML 這家新創公司是由加州理工學院的研究團隊孵化而出,並獲得了 Khosla Ventures 的強力支持。

該公司週二 (14 日) 對外公開發布了一個震撼性的成果:透過其特有的壓縮技術,成功將原本需要約 54GB 儲存空間的阿里巴巴(09988-HK) 開源模型 Qwen,壓縮至不足 4GB,使得包含 270 億參數的龐大模型,能夠在配備現代處理器的 iPhone 15 或更新機型上順暢運行。

根據 PrismML 的官方說明,這項技術的核心在於大幅簡化了模型內部資訊的儲存架構,將每個數值由傳統的 16 位元簡化至僅需 1 至 3 個可能值。

這項創新顯著降低了運行模型所需的記憶體空間,據稱記憶體佔用減少了 10 至 15 倍,響應速度提升了 6 至 8 倍,能耗則降低了 3 至 6 倍。

不過,執行長 Babak Hassibi 也坦承,技術上存在必然的取捨,雖然大部分能力得以保留,但模型的事實性記憶能力在壓縮後會較推理、數學和程式設計能力更早出現衰退。

隱私與效率的雙重奏

對於蘋果而言,將更多的 AI 運算留在設備本地,不僅僅是技術上的炫技,更是其核心產品哲學的延伸。目前的蘋果裝置已能處理部分基礎的本地 AI 功能,如自動翻譯、摘要生成等,但較為複雜的請求仍需路由至私有雲或外部模型。

分析人士指出,若能將絕大多數的 Siri 互動轉移至裝置本地,蘋果將能實現更低的響應延遲、更少的雲端運算成本,並賦予手機在無網絡連線狀態下使用部分 AI 功能的能力。

這與蘋果向來強打的「隱私保護」定位高度契合,能有效減少敏感數據上傳雲端的風險。

隨著模型體積的縮小,蘋果亦有望將更多高需求功能移至手機端,包含更強大的計算攝影、視訊生成,以及需要處理高度敏感個人健康數據的健身工具。

技術的關鍵挑戰

儘管技術指標亮眼,分析師對於這項技術的商業化前景,仍抱持審慎樂觀的態度。Counterpoint Research 研究總監 Tarun Pathak 強調,實驗室內的演示與真實世界的大規模應用是兩回事。

模型在長提示下的表現、多工處理時的電池消耗,以及在數百萬次查詢與千變萬化的設備組合中是否足夠穩健,都將是未來面臨的關鍵門檻。

此外,功耗控制亦是極大的未知變數。即便記憶體佔用極低,若模型需在後台頻繁運行以執行智能代理任務,其對手機電力的損耗恐不容小覷。

對於市場爭論的「模型瘦身是否會導致晶片需求下滑」,DA Davidson 分析師 Gil Luria 則表示,需求更像是發生了轉移,而非消失。

他指出,在單一設備上運行 AI 並不會取代對 GPU 或內存的需求,反而可能因為體驗提升而催生更多使用需求。

PrismML 的技術為蘋果在硬體與軟體協同設計的先天優勢上,提供了全新的發展路徑。隨著 AI 運算重心向邊緣設備傾斜,這場發生在矽谷新創與科技巨頭間的「模型壓縮競賽」,無疑將成為決定 Siri 下一代競爭力的關鍵戰場。

更多鉅亨報導
蘋果遭降評恐跌21%!分析師揭3大隱憂
蘋果躲過328億美元求償!iCloud兒少性虐集體訴訟遭法院駁回:無須為用戶上傳內容負責

點我加鉅亨網LINE好友🔥財經大事不漏接

查看原始文章

更多理財相關文章

01

全國十二大最富村出爐!新竹寶山鄉稱霸 馬祖、阿里山也入榜

三立新聞網
02

西門町「in89豪華影城」熄燈轉手!19.8億拿下 神秘家族身分曝光

三立新聞網
03

信驊1張股票近2千萬「能買北市1間房」!台股千金盛世,3年暴增39檔千金股,背後藏了什麼暴富秘密?

今周刊
04

牛市要變天了?外媒驚爆「5大致命警訊」齊發

民視新聞網
05

偉詮電股價今年漲30%!護國神山牽線,一場祕密併購切入AI鏈、市占飆4成「輝達牛肉再好,沒我們上不了桌」

今周刊
06

你絕對想不到!「全台最富村」排行出爐 阿里山、馬祖「藍眼淚」村都入榜

太報
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...