【產業動態】AI帶動矽光子CPO共封裝蓄勢待發，中長期Optical I/O潛力雄厚，一文看清5大科技巨頭誰將突圍而出！
圖/Shutterstock全文同步載於美股放大鏡
矽光子晶片應用擴大，總市場價值複合年增率可達36%，5大科技巨頭競相投入開發
矽光子技術自生成式AI推出市場以來，其重要性及關注度水漲船高。資料中心(Data Center)在生成式AI熱潮中，除了對算力有更高的需求以外，數據傳輸速度、頻寬、損耗及功耗的標準都隨之提高。在【產業動態】 矽光子被列為台灣四大潛力市場之一!預估到2027年複合成長率達36%一文中提到，矽光子技術將「電訊號」改為「光訊號」來傳輸訊息，由於光本身無電荷、無質量，因此訊號不會相互干擾且能量損耗低。
未來矽光子晶片有望應用於更多的領域，包括自駕車光達、消費性醫療、AI資料中心高速傳輸等，最終目標為全光網路(AON)，也就是晶片間的所有對傳，包括隨機存儲、傳輸、交換處理等，都以光訊號傳遞。由「光訊號」取代「電訊號」傳輸所有訊息，研調機構Yole Intelligence預估矽光子晶片2027年總市場價值可達9.72億美元，年複合成長率36%。而目前主要參與者為五大科技巨頭，包括博通(AVGO)、邁威爾(MRVL)、輝達(NVDA)、思科(CSCO)及英特爾(INTC)。
生成式AI 推動資料中心對高速傳輸需求大幅增加，矽光子網路設備可望成AI開發的另一把必備鏟子
矽光子成為市場焦點，係因生成式AI的橫空出世，使資料中心內部高速、低延遲及低功耗的傳輸技術需求大增。生成式AI的開發可分為訓練及推論兩大階段。首先，訓練階段因需要對大量資料進行分析，所以對晶片處理速度要求提高，使高算力(HPC) GPU的需求呈爆發式成長。但僅有高算力的GPU是不足夠的，大量的數據及運算結果需要在GPU之間高速傳輸，所以GPU之間訊息傳輸的頻寬就需要增加，而且功耗要進一步降低。
資料中心內部的數據傳輸管道，就像連假快要結束的國道一樣。當車流量增加，若無法增加車道，就常常出現堵車的現象，行車速度大幅減低。同樣，當資料中心內的訊息增加（大量的資料和分析結果），GPU之間訊息傳輸的頻寬（車道）若沒有增加，訊號傳輸瓶頸出現，訊息傳輸速度（車速）就會變慢。加上資料通過「電訊號」來傳輸時，因金屬銅線有電阻，導致訊號出現流失或受損的情況，大型語言模型 (LLM) 和生成式AI的結果將出現誤差，應用價值恐大打折扣。
再者，當大型語言模型進入推論階段時，為了盡快完成推論並向使用者提供資訊，也需要同時高速且精確地傳輸大量資料。故資料中心，尤其是雲端資料中心對高頻寬、低延遲、低損失的網路設備（如光收發模組及交換器）需求大幅增加，以去除資料中心內的資料傳輸瓶頸，才能最大化生成式AI的應用價值。因此，在AI淘金狂潮中，矽光子網路設備有望成為高算力GPU以外的另一把必備鏟子。
矽光子發展時程：從積體電路到積體「光」路
目前矽光子光收發模組市場上，主流產品是插拔式光收發模組(pluggable transceiver)，其外型像 USB 介面，外接兩條光纖，分別發射和接收光線。電子訊號需要經過電路板和載板，才會抵達Switch ASIC，使訊號傳輸速度緩慢，且有出現訊號損失的可能。下一代共封裝光學模組(CPO)正蓄勢待發，把光收發模組與Switch ASIC共同裝配在載板上，使電子信號的傳輸路徑縮短至僅需要經過載板，以加快訊號傳輸速度，並減少訊號損失。
再下一代的矽光子技術將以Optical I/O解決運算晶片之間的電訊號傳輸問題，以光代電連結運算晶片，透過光波導來進行運算晶片的對傳，以加速 AI 資料中心的運算速度並解決目前算力瓶頸，以逐步把晶片間的所有對傳全部轉為光訊號，以從電子網路往全光網路邁進。
插拔式光收發模組為矽光子網路設備主要應用產品
矽光子網路設備包括光收發模組(Transceiver)、電纜、光開關、感測器、光衰減器以及調變器。其中光收發模組已被資料中心大量採用，也是矽光子晶片的主要應用產品。光收發模組是光纖通訊中一個關鍵的信號傳輸組件，也是實現全光網路的重要。它把要發出的一般通信設備所用的電子信號轉換成光纖通信所用的光子信號，也把接收到的光子信號轉換成電子信號。以研調機構Yole Intelligence 的報告顯示，資料中心的光收發模組將持續主導著矽光子市場，市場規模複合年成長率(CAGR)可達22%。
插拔式光收發模組產品規格以邁威爾及博通領先，英特爾及思科亦步亦趨
矽光子光收發模組目前的主流產品為插拔式光收發模組(pluggable transceiver)，也就是把光收發模組插在電路板(PCB)上，電子訊號的傳輸路徑需要經過電路板和載板，才會抵達Switch ASIC。插拔式光收發模組最大的傳輸速度可以來到每秒800Gb。
邁威爾在2023年8月推出的COLORZ 800就是業界首個傳輸速度達到每秒800Gb的插拔式光收發模組，且傳輸距離高達 1,200公里，可用於連結不同城市的資料中心(DCI, Data Center Interconnect)，有望於2023年第四季開始樣本測試，並於測試後的9至12個月內出貨。而博通每秒800Gb的產品組合種類豐富，傳輸距離由100米至 10公里的插拔式光收發模組。
英特爾曾於 2022年歐洲光纖通訊展會(ECOC)上展示每秒800Gb的插拔式光收發模組，但至今仍未傳出正式出貨日程。而思科的最新產品Cisco QSFP-DD800，並未提供單個頻寬達每秒800Gb的連接埠，僅提供傳輸速度每秒400Gb的連接埠，顯示產品規格與博通及邁威爾兩個主要領先者，仍有一段距離。
共封裝光學模組(CPO)交換器，縮短電訊號傳輸距離，加速數據傳輸速度
以目前約80%的資料傳輸都發生在資料中心內部，以及資料中心的主幹枝葉式(Spine-leaf)架構而言，交換器在其中扮演了一個非常重要的角色，每一次的數據傳輸都至少要經過三層的交換器。數據由儲存資料的伺服器出發傳送到置頂式交換器（圖示(1)），再從置頂式交換器到葉式交換器(Leaf Switch) （圖示(2)），到主幹枝交換器(Spine Switch) （圖示(3)），再到訊號目的地伺服器的葉式交換器（圖示(4)），最後傳送到目的地伺服器（圖示(5)）。
一個交換器由光收發模組和交換器晶片(Switch ASIC:為交換器客製化設計的特定應用積體電路)組成。下一代的共封裝光學模組(CPO Transceiver)把光收發模組與Switch ASIC共同裝配在載板上，使電子信號的傳輸路徑僅需要經過載板，縮短了電信號傳輸路徑，也就減少了訊號傳輸期間出現的損耗和延遲，加快資料中心內部數據的傳輸。
CPO共封裝交換器規格以博通為首，輝達及邁威爾緊隨其後
博通最新一代交換器Tomahawk 5，數據傳輸頻寬達到每秒51.2 Tb (1 Tb=1,000 Gb, 51.2Tb=51,200Gb)。博通在3月15日的新聞稿中宣布Tomahawk 5已經開始出貨，為市場首個也是目前唯一一個量產出貨、頻寛達每秒51.2Tb的交換器，單個連接埠(port)的最高傳輸速度可達每秒800Gb。
輝達在2023年3月的GTC大會上推出為大型資料中心設計的Spectrum 4，頻寬達 51.2Tbps。每個連接埠的頻寬提高兩倍，每個連接埠的最高傳輸速度與博通Tomahawk 5相當可達800Gbps。輝達表示，Spectrum 4 可望在2023年底前開始出貨，結合輝達GPU龍頭及其黏著度極高的生態系，可望成為市場有力的競爭者。
邁威爾也推出數據傳輸頻寬達到每秒51.2 Tb的交換器 Teralynx 10。邁威爾在8月25日的FY24Q2法說會中表示，Teralynx 10已進入試用階段，有望於FY2025 (即2024年2月後) 開始貢獻營收，但滲透率大幅提升要在更遠的未來，表示Teralynx 10的出貨時間恐較輝達的Spectrum 4 落後1-2個季度。然而，邁威爾的Teralynx 10每個連接埠的最高傳輸速度高於Tomahawk 5及Spectrum 4，達1.6 Tbps。
思科於6月20日公布推出Cisco Silicon One G200 交換器，與博通的Tomahawk 5 、輝達的Spectrum 4及邁威爾的Teralynx 10一樣採用CPO技術，頻寬也達到每秒51.2 Tb，目前幾家主要的雲端服務供應商（如亞馬遜(AMZN)、谷歌(GOOG)及微軟(MSFT)等）正在測試G200，但目前仍未傳出正式出貨的時間點。
綜合各家最新一代頻寬達每秒51.2Tb交換器出貨時間的先後順序來看，CPO交換器市場以博通領先，輝達及邁威爾緊隨其後，而尚未有出貨時程的思科仍需努力。
下一代Optical I/O 技術延遲更低，較CPO更具成長潛力，目前領先者為Ayar Labs
上述的CPO技術針對資料中心內部伺服器互連，將交換器晶片及光收發模組共同封裝。而運算晶片如CPU、GPU、DPU(統稱XPU)等之間的互聯(Chip to chip interconnect)，也可以透過使用光訊號取代電訊號作訊號傳輸（稱為Optical I/O技術）。Optical I/O技術將運算晶片與光收發模組共同封裝，以加速運算晶片之間的傳輸速度。根據Yole Intelligence預期，Optical I/O市場規模在AI及機器學習(Machine Learning) 對高速運算需求成長的推動下，2022至2028年的複合年成長率(CAGR)有望來到68%，2028至2033年的CAGR更可望進一步成長至81%。兩段時期的CAGR均高於CPO的41%及69%，顯示Optical I/O較CPO具有更大的成長潛力。
Optical I/O同樣把光收發模組與處理器晶片共同裝配在載板上，對比CPO來說只是把Switch ASIC換成XPU(CPU/GPU/DPU)而已。Optical I/O更強的地方就在於它的電傳輸路徑較CPO更短，故延遲較CPO更低，CPO的延遲在100~150奈秒(ns)，而Optical I/O的延遲可進一步降低至5奈秒左右。100奈秒以上的延遲在乙太網的場景還可以接受，但在一系列XPU分擔機器學習負載的場景下就不能容忍了。
目前Optical I/O 技術的領先者為Ayar Labs，為首個成功實現晶片與晶片之間以光傳輸訊號的公司。Ayar Labs並未公開上市，但與英特爾及輝達均有合作關係，其供應鏈中主要的合作夥伴有代工廠格羅方德(GFS)以及雷射零件供應商Lumentum (LITE)。
矽光子概念股可留意CPO交換器領頭羊——博通、輝達及邁烕爾，中長期Optical I/O技術可留意格羅方德及Lumentum
綜合以上，隨著數據傳輸速度、頻寬、損耗及功耗的標準均顯著提高，矽光子技術有望成為未來數據傳輸技術的主要發展方向。單從規格來看，目前插拔式光收發模組及CPO交換器的領先者有博通、輝達及邁烕爾，而晶片之間互連的Optical I/O技術以Ayar Labs 領銜，可特別留意供應鏈中的代工廠格羅方德，以及雷射零件供應商Lumentum。
延伸閱讀：【產業動態】 矽光子被列為台灣四大潛力市場之一!預估到2027年複合成長率達36%
延伸閱讀：【產業動態】AI帶動先進封裝需求，誰將搭上順風車?
延伸閱讀：【產業動態】好想提升晶片效能!然先進製程成本高，先進封裝另闢蹊徑?
一本幫你搞懂AIGC的啟蒙書，投資AI股前，你真的懂「AI是什麼」嗎？
AI有可能取代你的工作嗎？AIGC是「人工智慧自動生成內容」，最廣為人知的就是ChatGPT，當語音、圖片、文字、影片、程式都能一鍵生成，社會產業結構也可能有顛覆性的改變！不同產業積極發展AI的新技術，創造更高公司營收，看好AI趨勢，想跟上熱潮布局AI相關產業股票，必讀 2023.10 新書上市：丁磊《生成式人工智慧：AIGC的邏輯與應用》
版權聲明
本文章之版權屬撰文者與 CMoney 全曜財經，未經許可嚴禁轉載，否則不排除訢諸法律途徑。
免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。