請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

AI 代理應用崛起將從端到雲帶動核心半導體元件需求

科技新報

更新於 08月10日11:42 • 發布於 08月13日07:00

AI 代理是 AIGC 時代下最高層次的應用解決方案,隨著 LLM 的能力越強,AIGC 應用切入的領域越來越廣,利用 AI 代理做為 AIGC 應用的管理者、數位化員工、隨身助理或單純的陪伴角色,幾乎是必然的發展路徑,而這也可能將 AIGC 應用需求推上新的高峰。

2030年後AI代理將大舉提升個人產出能力、降低企業人力需求

目前AI代理正處於高速發展階段,其應用可區分為個人端應用與企業端應用。在個人端應用方面,AI代理將成為使用者的數位分身,對企業而言,利用AI代理取代部分人力也是主流發展趨勢之一,特別是在線上客服、社群平台營運、財務管理與分析、供應鏈管理、人力資源管理、銷售分析、文本審查等方面,AI代理的運用空間尤其巨大。

預期到2027下半年會有更令人驚豔的產品問世,並自2028下半年陸續導入企業,而終端使用者對AI代理的需求亦將持續攀升。估計邁入2030年後,AI代理將大舉提升個人產出能力,並逐步降低企業的人力需求。

AI代理革新運算硬體配置,伺服器CPU需求或成長20%~30%

在AI代理應用崛起下,AI運算之核心硬體的配置亦將出現轉變,為運行AI代理,終端設備必須利用SSD、ROM搭載參數量在30億以下的LLM;而原本對一般使用者而言顯得性能過剩的中高階、高階CPU或SoC,反而成為AI代理應用不可或缺的核心元件。

此外,AI代理應用長期占用DRAM,又將擠壓使用者日常應用的存取需求,而類似情況同樣也會發生在企業端,對每月使用Token數量在50億以上的企業而言,會提高部署本地AI算力的需求;對每月使用Token數量少於20億的多數中小型企業來說,則可能選擇混合本地與雲端AI算力的折衷方案。

雲端服務供應商在建設AI伺服器叢集時,不僅得採用更先進、搭載更大HBM容量的GPU、ASIC,也會改變既有的部署架構,整合更多CPU處理AI代理衍生大量且持續的序列運算任務。估計至2028年末,GPU與CPU配置為1:1的AI伺服器叢集占比會達10%,整體AI伺服器CPU的使用量有望較目前成長20%~30%。

▲ 2028年末GPU與CPU配置為1:1之伺服器叢集占比。(Source:拓墣產業研究院整理,2026.8)

(首圖來源:AI)

立刻加入《科技新報》LINE 官方帳號,全方位科技產業新知一手掌握!

查看原始文章

更多理財相關文章

01

電信三雄預告 9日下午4時全台災防訊息測試

中央通訊社
02

川普曬「新版美國地圖」劃入20主權國家 多國怒表不滿、冰島急召美大使抗議

anue鉅亨網
03

正港富三代!富阿公、阿嬤贈子孫總額高達869億元

自由電子報
04

緯穎畸零股之亂!散戶廉價讓出千元價差?金管會回應了

三立新聞網
05

台股48000點攻城戰續打!台積電撐底氣、資金大換車 漲多高價股退燒還卡「兩顆石頭」

鏡報
06

iPhone 18 Pro明發布!大行潑冷水:恐拉低蘋果股價

三立新聞網
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...