專為Gemini而生 谷歌打造AI推理晶片運算效率最高提速10倍
美國媒體《TradingKey》與《The Information》報導，美國科技巨頭谷歌（Google）正在開發「Frozen v2」伺服器晶片，主要是為了將Gemini模型架構直接硬編碼到硬體中，以解決AI運算能力嚴重不足的問題。
以每單位耗能提供的AI Token數量計算，透過將模型邏輯嵌入矽晶片，新晶片的推理運算效率可能是Google目前最新AI晶片的6到10倍。
谷歌雲端推掉許多外部客戶的訂單
谷歌這種垂直整合策略類似蘋果公司的做法，是為了降低AI成本並優化效能。然而，但是這種深度軟硬體耦合也帶來重大風險，如果Gemini架構發生重大變化，晶片將面臨過時的風險。目前，該專案作為技術測試平台，計劃於2028年進行部署。
根據《The Information》報導引述2位知情人士的消息稱，Google正在開發一款全新的伺服器晶片，可以讓Gemini大型模型的底層架構直接硬編碼到晶片硬體之中，從而大幅提升向用戶交付AI服務的運作效率。
這款內部代號為「Frozen v2」的人工智慧（AI）推理晶片，可望直接解決谷歌目前AI運算能力嚴重不足的痛點。
消息人士透露，運算力的缺口已經引發內部資源衝突，甚至迫使谷歌雲端部門（Google Cloud）推掉許多外部客戶的訂單。研發團隊估計，一旦新的晶片正式部署，其單位功耗處理的AI Token數量將為Google目前最新自研AI晶片的6到10倍之間。
受此消息提振，Google母公司Alphabet股價表現強勁，周一盤中一度觸及359.67美元的高點，收盤上漲1.52%或5.25美元，報每股351.37美元，站上5日、10日和20日移動平均線之上。
為何新款AI晶片代號為「Frozen」？
代號「Frozen」源自於谷歌的核心設計理念：將Gemini大型模型的部分計算邏輯永久蝕刻到矽晶片硬體上，類似將軟體「凍結」在晶片中。工程師仍在研發晶片的核心功能模組以及各組件的協同解決方案，Google計劃最早於2028年部署這款AI晶片。
Frozen專案是為了打造一條全新的AI晶片產品線，以補充而非取代Google現有的張量處理器（TPU）。
目前，應用最廣泛的AI晶片包括輝達（NVDA）的GPU和Google的TPU，均為通用晶片，能夠適應多種不同的大型模型。然而，通用晶片在運行任何一種模型時，都需要即時執行大量耗時的邏輯判斷。
相較之下，Frozen v2 AI推理晶片直接內建適配Gemini系列模型的底層運算邏輯，顯著減少晶片的運算步驟和資料傳輸，從而實現推理運算效率的品質飛躍進步。
知情人士透露，這款專用AI晶片能夠更快回應用戶的查詢，並有望協助Google推出全新的AI應用場景。