Google研發新AI晶片 效率拚提升6至10倍、降低Gemini每單位運算成本

根據《The Information》報導，Google正在推動代號「Frozen v2」的實驗性AI晶片計畫，目標是降低傳統AI運算模式中使用通用GPU與TPU所產生的額外成本，透過將Gemini AI模型架構直接整合至晶片中，減少運算流程與資料傳輸需求。

AI運算資源不足已成為Google面臨的一大壓力，不僅影響內部AI開發進度，也讓Google Cloud必須拒絕部分客戶需求。為了補足算力缺口，Google甚至在上個月每月花費近10億美元向SpaceX採購AI運算資源，以確保能持續提供企業客戶所需的AI服務。

根據報導，Google計畫最快在2028年導入這款新晶片，不過目前Google仍在調整晶片設計，研究哪些Gemini AI功能可以直接放進晶片中，讓AI模型運作更快、降低對外部運算資源的需求。

順利的話，以每單位電力可處理的AI token數量來看，Frozen v2的效率可能比Google目前最新自研AI晶片提升6至10倍。

Google Cloud發言人表示，公司團隊持續研究與測試新技術，透過從硬體與軟體底層共同設計，打造更整合且高效率的AI運算系統。

不同於現有的Tensor Processing Units（TPU），Frozen計畫並非取代TPU，而是希望建立另一套自主研發晶片架構，提供Google更多AI運算選擇。

Google近年積極發展自研AI晶片，主要目的是降低對外部晶片供應商的依賴，尤其是在生成式AI快速發展下，市場對AI伺服器與高效能運算設備需求大增，也讓輝達Nvidia(NVDA-US)等AI晶片供應商面臨龐大需求。

此外，彭博社上週報導指出，Google最新一代Gemini AI模型因未達內部目標而延後推出，目前公司正努力提升模型能力，尤其是程式設計相關功能。