AI 代理應用崛起將從端到雲帶動核心半導體元件需求
AI 代理是 AIGC 時代下最高層次的應用解決方案,隨著 LLM 的能力越強,AIGC 應用切入的領域越來越廣,利用 AI 代理做為 AIGC 應用的管理者、數位化員工、隨身助理或單純的陪伴角色,幾乎是必然的發展路徑,而這也可能將 AIGC 應用需求推上新的高峰。
2030年後AI代理將大舉提升個人產出能力、降低企業人力需求
目前AI代理正處於高速發展階段,其應用可區分為個人端應用與企業端應用。在個人端應用方面,AI代理將成為使用者的數位分身,對企業而言,利用AI代理取代部分人力也是主流發展趨勢之一,特別是在線上客服、社群平台營運、財務管理與分析、供應鏈管理、人力資源管理、銷售分析、文本審查等方面,AI代理的運用空間尤其巨大。
預期到2027下半年會有更令人驚豔的產品問世,並自2028下半年陸續導入企業,而終端使用者對AI代理的需求亦將持續攀升。估計邁入2030年後,AI代理將大舉提升個人產出能力,並逐步降低企業的人力需求。
AI代理革新運算硬體配置,伺服器CPU需求或成長20%~30%
在AI代理應用崛起下,AI運算之核心硬體的配置亦將出現轉變,為運行AI代理,終端設備必須利用SSD、ROM搭載參數量在30億以下的LLM;而原本對一般使用者而言顯得性能過剩的中高階、高階CPU或SoC,反而成為AI代理應用不可或缺的核心元件。
此外,AI代理應用長期占用DRAM,又將擠壓使用者日常應用的存取需求,而類似情況同樣也會發生在企業端,對每月使用Token數量在50億以上的企業而言,會提高部署本地AI算力的需求;對每月使用Token數量少於20億的多數中小型企業來說,則可能選擇混合本地與雲端AI算力的折衷方案。
雲端服務供應商在建設AI伺服器叢集時,不僅得採用更先進、搭載更大HBM容量的GPU、ASIC,也會改變既有的部署架構,整合更多CPU處理AI代理衍生大量且持續的序列運算任務。估計至2028年末,GPU與CPU配置為1:1的AI伺服器叢集占比會達10%,整體AI伺服器CPU的使用量有望較目前成長20%~30%。
▲ 2028年末GPU與CPU配置為1:1之伺服器叢集占比。(Source:拓墣產業研究院整理,2026.8)
(首圖來源:AI)