AI 晶片設計更注重能源效率！Arm 談三大關鍵趨勢、挑戰及突破口
半導體矽智財（IP）龍頭 Arm 先前發布《晶片新思維：奠定 AI 時代新基礎》趨勢報告，提到 AI 帶動晶片設計發展，重心逐漸轉向高效能運算，以應對日漸複雜的運算工作負載。而在 AI 時代下，能源效率將是晶片設計強調的重點。
Arm 指出，AI 時代重新定義晶片架構與運算需求，目前看到三大技術趨勢，首先是 AI 時代推動高效能運算發展；再來，產業廣泛採用客製化晶片（Custom Silicon），如 AWS Graviton4、Azure Cobalt、Google Axion 等均採用 Arm 架構；運算子系統（CSS）與小晶片技術（Chiplets）等趨勢已經顯現，前者可加速產品上市時間，後者則為客製化晶片鋪路，幫助新設計方法在功耗、效能與面積（PPA）間達到更好平衡。
高盛 Goldman Sachs 研究指出，AI 預計將推動資料中心電力需求成長 160%。也因此，晶片設計須因應不同 AI 任務特性進行最佳化配置，提升效能並減少能耗。AI 運算中，能源主要消耗於三個層面，分別是運算（Computation）、資料傳輸（Data Movement）與冷卻（Cooling）。
從產業趨勢來看，必須更注重能源效率，而更小、更高效率、適合用於邊緣裝置上的生成式 AI 應用也將隨之出現，如醫學診斷或在地語音辨識等應用。Arm 指出，AI 也會驅動晶片架構創新，如 Arm 推出的 SVE2、SME 等底層架構，並看好雲端與邊緣運算混合並行的 AI 架構出現，以及邊緣 AI 運算將日漸普及。
談到資訊安全，Arm 應用工程總監徐達勇認為未來將是「AI 打 AI」，因此 SoC 晶片要增加資安的功能，如增加加密保護機制。他表示，像 Arm 提出機密運算架構（CCA），讓 AI 模型在作業的同時，確保資料或演算法不被竄改或竊取。
目前 Arm 也看到，AI 正推動晶片設計全面重構，橫跨架構、合作到標準制定。由於晶片設計相當複雜，IP 供應商、晶圓代工廠、封裝廠與系統整合商之間必須有更密切的合作；設計也必須改為系統層面思考，不僅是個別元件，整體最佳化需涵蓋運算、記憶體、散熱與供電等；同時，業界必須建立新的標準，以支援小晶片的介面、供電與散熱管理，進而實現真正模組化的晶片設計；不同的工作負載將愈來愈需要專屬的架構，這將促使晶片設計出現更多元的類型，而在晶片架構到實作的每一環節都必須以能源效率為核心指標。
最後 Arm 表示，目前軟體與晶片整合挑戰多，包括部署至客製化硬體相對地昂貴和耗時、AI 開發缺乏標準化流程、AI 框架之間實現互通性等問題，都是開發人員面臨的關鍵挑戰，因此通用工具與標準化將是關鍵突破點。
（首圖來源：shutterstock）