請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

打破AI算力物理極限!Lightmatter導入BiDi雙向光學技術實現高效能基礎架構規模化

Zeek玩家誌

更新於 10月07日03:52 • 發布於 10月07日03:52

隨著人工智慧(AI)模型的規模與運算需求持續飆升,AI基礎架構正面臨著前所未有的轉折點。市場焦點已從單純增加GPU數量,轉向如何以更高的效率來連接大規模的運算資源。擴大縱向擴展(scale-up)領域能直接支援更快的訓練速度與更佳的模型品質,使得高頻寬、低延遲的互連技術,成為下一世代AI基礎架構不可或缺的關鍵。然而,當傳統銅纜逐漸觸及物理極限,scale-up網路全面轉向光學互連時,快速增加的光纖數量與佈線複雜度,也伴隨著成本、部署、供應鏈以及可靠性等全新的挑戰。

雙向光學技術:化繁為簡的關鍵解方

為了克服實體佈線的瓶頸,BiDi雙向光學技術提供了一條更具效率的發展路徑。BiDi巧妙地利用不同的波長,在單一光纖上同時承載傳送與接收訊號,這能大幅降低大型scale-up網路所需的光纖與連接器數量,同時維持交換器radix(連接埠數)、頻寬與鏈路傳輸距離不變。這項技術的價值不僅在於撙節光纖用量,更核心的意義在於簡化了支撐龐大AI叢集所需的實體基礎架構。

突破銅纜極限,解鎖512-GPU以上的叢集規模

打造更大型AI模型的競賽,與擴大scale-up領域的規模息息相關。在晶片與封裝層級,GPU受到矽晶片面積、良率與功耗的嚴格限制,業界目前的因應之道,是將數百顆加速器整合成單一高頻寬、低延遲的機櫃組(pod),讓AI模型將其視為一顆超大型GPU運行。

然而,Pod結構已無法透過傳統銅纜持續擴展。在目前每通道200Gb/s的SerDes速率下,被動式電氣互連的最大傳輸距離約僅有一公尺,這使以電氣方式連接的scale-up領域實質上被限制在一至兩個機架、大約72至144顆GPU之間。若要跨機架連接512顆以上的加速器,光子互連便成為唯一可行的發展路徑。不過,單純以光鏈路取代銅纜,也會帶來新的麻煩,例如在單一512-GPU pod中,UniDi光學網路會衍生出數十萬芯光纖、數萬個連接器,以及複雜的shuffle box(光纖路徑重新排列箱),每一處對接都隱藏著污染、錯接或故障的風險。

BiDi帶來卓越的成本與可靠性優勢

根據Lightmatter針對512-GPU scale-up模型的分析顯示,BiDi技術能帶來三大實質效益:首先,能將光纖與連接器數量直接減半;其次,可將scale-up網路的總支出降低約15%;最後,還能將被動光路中的潛在故障點減少約一半,且完全不影響交換器radix、頻寬與鏈路傳輸距離。

為了加速這項技術的普及,Lightmatter已在其互連產品組合中正式導入BiDi。這項分析是以預計於2027年上市的Passage L20光引擎(OE)作為代表性解決方案,充分展現雙向光學技術在未來AI資料中心的大好前景。

玩家總結

面對AI運算規模化的浪潮,傳統銅纜與傳統光學互連皆已面臨物理與架構上的極限。透過Lightmatter導入的BiDi雙向光學技術,不僅在單一光纖上實現雙向傳輸,更成功將光纖與連接器數量砍半、降低15%網路總支出,並減少一半的故障風險。隨著Passage平台與Passage L20光引擎等創新技術的推進,未來的AI基礎架構將能以更高的頻寬密度與能源效率,徹底突破傳輸瓶頸,迎向全新的高效能運算時代。

延伸閱讀:
Meta AI家長監護功能在台灣正式上線 助家長掌握青少年AI互動主題
蓋瑞奇最新動作鉅獻《金劫任務》墨西哥女星艾莎岡薩雷化身兩大男神老闆
青春奇幻小說《致遙不可及彼方的你》動畫電影化!跨越時空的夏日純愛感動登場
凱擘大寬頻推出新速代限時優惠1G對稱頻寬月付500元起再享串流影音與mo幣回饋

更多理財相關文章

01

韓股崩跌40%「台股僅跌4%」! 專家斷言:情況很明顯了

EBC 東森新聞
02

售價近6.4萬元!iPhone Duo上市即傳災情 多支手機在同一位置裂開

CTWANT
03

颱風連假賣壓殺爆台股!郭哲榮喊下週二大逆轉 點名買這6檔

TVBS
04

勞退攻防戰2/勞退基金前8月賺29%!每5名勞工1人自提 2大好處一次看

鏡週刊
05

手機用多久才要換?專家籲觀察2大關鍵指標:有症狀就該考慮

TVBS
06

AI股跌完了?小摩曝「賣壓快結束」!科技業手握4千億美元銀彈

TVBS
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...