微軟最近在 Build 大會上公布最新的小型語言模型 Phi Silica,這款模型專為微軟最新公布的 Copilot+ PC 中的神經處理單元(NPU)而設計,並會搭載於 Copilot+ PC 上。
▲微軟最近在 Build 大會上公布最新的小型語言模型 Phi Silica
Phi Silica 是 Phi 系列中最小的模型,擁有 33 億個參數,每秒能夠處理 650 個 token,功耗只為 1.5 瓦。Phi Silica 的處理能力可讓 CPU 與 GPU 有更多資源處理其他工作。Phi Silica 的 token 生成精妙地重用 NPU 的 KV 快取,並在 CPU 上運行,每秒生成約 27 個 token。預料每部 Copilot+PC 將會搭載 Phi Silica。
開發者可以通過 Windows App SDK 使用 Phi Silica API,還包括其他 AI 驅動功能,如 OCR、Studio Effects、Live Captions 和 Recall User Activity API。微軟計劃在未來發布更多 API,包括 Vector Embedding、RAG API 及 Text Summarization。
資料及圖片來源:maginative、PC World
• 不想錯過新科技 ? 請 Follow unwire.hk FB 專頁http://facebook.com/unwirehk/
• 要入手生活科技潮物 即上 unwire store
https://store.unwire.hk/