微軟於SEMICON Taiwan 2026揭示AI基礎建設新思維：聚焦「有效產出」打造可控成本的智慧未來

台灣微軟於2026年9月2日在SEMICON Taiwan CEO Summit發表主題演講，提出AI基礎建設發展的全新衡量方式。微軟Azure雲端硬體與基礎建設總裁Rani Borkar指出，面對日益激增的運算需求，產業應將「提升有效產出（yield imperative）」視為當務之急，不單以能建置多少運算容量定義成功，更需關注資源如何高效率轉化為實際成果。

從規模擴張轉向有效產出

過去幾年，AI的發展主要體現在資料中心、晶片、記憶體與電力等資源的擴張規模。然而，微軟認為要滿足現今AI基礎建設的需求，不僅需要擴大容量，更需提升「有效產出（useful yield）」。這意味著讓晶片、記憶體、網路與電力更有效率地轉化為具備價值的實際成果，並透過增加每一分錢與每瓦電力所能產生的token數量、整體處理效能提升以及降低延遲等指標來衡量整體效益。

隨著每一代新AI對各項資源的需求增加，只仰賴基礎建設的擴充已不足以支撐未來發展。微軟強調，持續推動AI基礎建設不僅需要提升各層雲端架構的效率，也需透過跨領域技術整合才能實現突破性創新，這有賴全球半導體生態系攜手合作共同參與。

跨層設計與生態系協同合作

根據微軟設計與營運全球規模AI基礎建設的經驗，跨層設計（cross-layer design）將成為下一階段提升效率的關鍵。企業不應受限於單點優化零組件，而是必需打破既有思維，從晶片、記憶體、網路、電力、散熱、軟體、模型、工作負載和大規模營運等各個層面進行跨層整合。

微軟Azure雲端硬體與基礎建設總裁Rani Borkar表示，微軟將持續擴充基礎建設容量以因應世界未來發展所需，然而衡量進展的核心標準必須是最終的產出成果，不只是晶片或token，而是轉化為賦能、機會與人類成就的實用智慧。

微軟Azure AI基礎建設技術堆疊策略

• 記憶體：讓每個位元組（byte）釋放更多智慧。透過整合模型最佳化、記憶體管理、晶片設計與編譯器配置，提升Azure Maia加速器平台從既有記憶體資源所提供的有效智慧。
• 網路：Azure Maia以跨層設計方式，結合雙層垂直擴展網路拓撲與客製化傳輸層，並將網路介面卡（NIC）直接整合至晶片，提升工作負載的彈性與效率，讓運算資源以較少的網路硬體實現更高的運算效能。
• 電力：從電網到晶片協同設計以提升效率。微軟採取軟硬體協同設計的電力供應與管理方式，在降低功耗的同時維持運算效能。例如，微軟Azure Cobalt客製化CPU將更精細的電力控制直接整合至晶片，使相同兆瓦數的電力能支援更多伺服器運作。

SEMICON Taiwan演講重點摘要

• 下一階段的AI基礎建設發展將不再僅限於原始硬體容量（raw capacity），而是更重視有效產出（useful yield）。
• Agentic AI正為運算基礎建設帶來全新需求。
• 微軟正採取從晶片到系統（silicon-to-systems）的方法，涵蓋晶片、記憶體、網路、電力與軟體等層面。
• 持續深化生態系合作將是提升AI效率、成本可控性與普及程度的關鍵。

玩家總結

微軟於SEMICON Taiwan 2026提出的全新AI基礎建設戰略，標誌著產業正從單純的「硬體軍備競賽」轉向追求「有效產出」的實質效益。透過記憶體、網路與電力的全方位跨層設計（cross-layer design），微軟不僅致力於讓AI運算成本更可控且普及，更期望藉由半導體生態系的緊密合作，將龐大的運算資源真正轉化為推動全球創新與經濟機會的實用智慧。

延伸閱讀：
騎上愛車、來杯咖啡！2026 Honda Motorcycle Cafe Bar專屬騎士交流空間9/5登場
Threads瘋傳迷因火鍋！馬辣新品牌「菊花盛開」登場、大嗑牛油麻辣鍋還能爆打小人
Volvo 2027年式新車到港、再推XC40極黑版！首打造品牌「城市展間」新光三越台南西門登場
黑松把柑仔店縮小了！四款盲盒重現童年回憶、9/2起7-11限時加購必搶收