衝刺代理式 AI，Meta 大規模部署 AWS Graviton 處理器
Meta 已與 AWS（Amazon Web Services，亞馬遜雲端運算服務）簽署合作協議，將大規模部署 AWS Graviton 處理器，以支援新一代 AI 系統建設，雙方未公開交易金額等細節。
雙方這次合作反映 AI 基礎建設架構正在轉變，雖然 GPU 仍用於大型模型訓練，隨著 Agentic AI（代理式 AI）應用增加，對於即時推理、程式碼生成、搜尋及多步驟任務協調等 CPU 密集型工作負載的需求大幅增加。以 Arm 架構為基礎的 AWS Graviton 處理器即是針對這類工作負載而設計，可為 Meta 提供高效處理能力。
AWS 指出，目前最新 Graviton5 晶片配備 192 個核心，快取記憶體容量為上一代的 5 倍，核心之間的通訊延遲最高減少 33%，意味著更快速的資料處理和更大的頻寬。對於需要持續推理並執行多步驟任務的 Agentic AI 系統而言，這些是關鍵需求。
Graviton5 晶片採用台積電 N3 製程，而 AWS 從零開始設計晶片，全面掌控從晶片設計到伺服器架構的完整流程，因此能夠做到現成處理器無法比擬的最佳化效能與能源效率，Graviton5 晶片效能較上一代提升高達 25%。
每日約有 36 億人使用 Meta 的服務，Meta 即使全球營運了 32 座資料中心應對龐大資料處理需求仍顯得不夠，願意像 Google、微軟等科技巨頭一樣，大手筆投入資金取得算力，以滿足龐大運算需求。
（首圖來源：Amazon News）