小米玄戒O100導入垂直堆疊，1.22TB/s頻寬突破裝置端AI瓶頸

小米於2026年8月24日發布6nm晶圓級垂直堆疊AI加速晶片「玄戒O100」，透過Wafer on Wafer技術將邏輯晶圓與雙層DRAM晶圓垂直整合，使記憶體頻寬達1.22TB/s，主要鎖定裝置端AI運算面臨的記憶體頻寬瓶頸。

隨著大型AI模型逐步從雲端走向手機等終端裝置，效能瓶頸已不只取決於NPU算力，記憶體能否快速供應大量模型權重與資料也成為關鍵。玄戒O100透過DRAM與NPU面對面鍵合，將資料傳輸距離從毫米級縮短至微米級，有助降低延遲及資料傳輸功耗。

相較傳統PoP封裝的96路資料連線，玄戒O100增加至28,672路，接近300倍；混合鍵合間距僅1.4微米，TSV矽穿孔直徑縮至0.7微米，並建立258萬個實體鍵合節點。透過更多且更短的資料通道，讓記憶體能更靠近運算單元，形成近記憶體運算架構。

在自研MiMo 3B模型原型機上，玄戒O100裝置端推論速度最高可達每秒330 Token，較傳統方案提升約10倍。更高的記憶體頻寬，可讓大型AI模型直接在手機等裝置執行，減少資料往返雲端的需求，也有助降低網路延遲與雲端運算依賴。

不過，晶圓級垂直堆疊同時提高散熱、良率、鍵合精度與製造成本的要求。玄戒O100預計2027年投入商用，未來應用可望從手機進一步延伸至汽車、機器人等需要高頻寬AI運算的終端設備。