算力 8 年提升 20 倍還不夠：Waymo 如何用自研 ASIC、液冷與雙晶片備援，把「資料中心級 AI」搬上車？
Alphabet 旗下 Robotaxi 龍頭 Waymo，近日首度公開車載運算系統的關鍵設計細節。為了應付愈來愈複雜的 AI 工作負載，Waymo 過去八年已將車載運算能力提升至原來的 20 倍。不過，Waymo 想把「資料中心級算力」搬上車，真正的挑戰並不只是追求更高的算力峰值，而是必須在道路震動、溫度變化等環境下長時間穩定運作，更要在硬體異常時維持系統運行，因此 Waymo 將車載運算架構的核心原則歸納為「即時反應、強韌耐用、備援」三大原則。
原因在於，車上的相機、光達（LiDAR）與雷達持續產生大量感測資料，AI 必須在毫秒之內完成環境感知與判斷，再轉換成駕駛指令。在完全無人駕駛的 Robotaxi 裡，也沒有駕駛員能在系統出錯時即時接手，因此 Waymo 最新一代車載運算系統不是單純增加更多晶片，而是重新整合特殊應用積體電路（ASIC）、感測器、散熱、硬體備援與 AI 模型，讓資料中心等級的 AI 運算能真正在道路上即時、穩定且不中斷地運作。
不是只拚算力，Waymo 用自研 ASIC 把感測到行動的延遲降到最低
Waymo 宣布，在最新第六代 Robotaxi 中，正式導入首款自研 ASIC。這顆晶片採用台積電 5 奈米製程，運算效能超過 1,000 TOPS（每秒 1,000 兆次運算），若單看 TOPS 指標，其 AI 運算能力已可與 NVIDIA 最新的自駕車運算系統相比。
Waymo 自研晶片的目的，是針對 Robotaxi 最關鍵的工作負載量身打造：快速處理感測器持續產生的原始資料，並盡可能縮短資料轉換成 AI 模型可用資訊的時間。為此，Waymo 特別針對低延遲進行設計，希望把從感測器接收到第一個像素（first pixel），到車輛做出行駛反應之間的時間壓到最低。
這顆 ASIC 的設計以 Waymo 超過 2 億英里的自動駕駛行駛資料為基礎，並針對反應速度、可靠度與備援能力進行最佳化，同時支援卷積神經網路（CNN）與 Transformer 等不同 AI 模型。從系統架構來看，ASIC 位於感測資料進入運算系統的最前端，負責初步處理與融合資料，再交由後續運算元件進行更深層的駕駛判斷，讓 Waymo 能直接針對自動駕駛最關鍵的 AI 工作負載進行最佳化。
這項能力尤其重要，因為 Waymo 第六代感測系統同時配置 13 顆相機、4 顆光達與 6 顆雷達，ASIC 必須即時整合不同角度、不同感測原理產生的資料，轉換成一致的環境資訊，供 AI 判斷車輛周遭狀況。
其中還包括「時間去噪（temporal denoising）」技術，也就是透過比對前後影格辨識並降低影像雜訊，改善低光源環境下的感知能力。換言之，Waymo 自研 ASIC 的價值不只在於突破 1,000 TOPS，更在於讓來自 13 顆高解析度相機及其他感測器的大量資料，能在極短時間內完成處理、融合並送進 AI 決策流程。
把資料中心級算力搬上車，Waymo 如何同時搞定耐震、液冷與體積限制？
低延遲解決的是「時間」問題，但 AI 真正上路後，還得面對資料中心不會遇到的物理限制：車載硬體必須長時間承受道路坑洞造成的震動、車輛行進時的衝擊，以及酷暑與嚴冬帶來的劇烈溫差。
為了應付這些環境，Waymo 將 CPU、GPU 與自研 ASIC 等運算元件置於強韌化（ruggedized）的外殼中，以確保系統即使面對持續震動與惡劣天候，仍能穩定運作。另一方面，超過 1,000 TOPS 的高算力也帶來散熱壓力，Waymo 沒有額外加裝獨立且大型的冷卻設備，而是利用車輛既有的液冷系統替晶片散熱，讓運算元件能在不同氣候條件下維持適當工作溫度。
車載電腦的體積與噪音同樣受到限制。運算系統不能無限制擴張、占滿後車廂，也必須盡可能維持安靜，避免影響乘坐體驗。這也代表要把資料中心等級的算力搬上道路，Waymo 必須在運算效能、延遲、散熱、耐震、體積與噪音之間取得工程平衡。
晶片到整套系統都有備援，Waymo 要降低 Robotaxi 單點故障風險
即使硬體能承受道路環境，Robotaxi 還面臨另一個更嚴苛的要求：系統不能因單一元件故障而中斷。一般雲端系統若伺服器發生異常，通常還能切換至備援資源，但 Robotaxi 沒有等待系統重啟的餘裕，道路上的危險可能在不到一秒內發生，因此 Waymo 也將備援（redundancy）列為車載運算系統不可妥協的設計原則。
每輛第六代 Robotaxi 的車載運算系統中，都配置兩顆相同的自研 ASIC。正常行駛時，兩顆晶片共同運作，一旦其中一顆發生硬體故障，或因異常產生錯誤運算結果，另一顆便能迅速接手，降低單一硬體失效直接影響行車安全的風險。Waymo 也強調，這種備援思維並不只存在於晶片層級，而是一路延伸至整套運算系統。
自研晶片只是其中一環，Waymo 用 CPU、GPU、ASIC 分工打造 Robotaxi 大腦
做到低延遲、耐環境與備援之後，下一個問題是：這麼多運算工作，是否都需要由 Waymo 自己的晶片處理？答案是否定的。
儘管推出自研 ASIC，Waymo 並未把車上所有運算工作都放進單一晶片，而是採取「異質運算（heterogeneous system）」架構，由客製 ASIC、中央處理器（CPU）、圖形處理器（GPU）與其他專用加速器分工協作。
Waymo 將自家的研發與晶片設計資源集中在最關鍵的即時感測器融合（sensor fusion）與前端機器學習（front-end machine learning），至於任務調度（orchestration）、資料移動（data movement）、系統日誌記錄（logging）等非機器學習核心工作，則繼續交由合作夥伴提供的晶片與元件處理。
因此，Waymo 自研 ASIC 更接近針對核心自駕工作負載進行「選擇性垂直整合」，而不是全面取代第三方晶片。Waymo 目前的車載運算供應鏈仍包含 AMD、NVIDIA、Micron、Samsung、SanDisk、Socionext，以及負責晶片代工的台積電，自研 ASIC 一方面能分散對 NVIDIA、AMD 等第三方晶片供應商的依賴，另一方面也呼應母公司 Alphabet 近年透過客製晶片掌握 AI 運算成本與核心技術的方向。
目前，自研 ASIC 已搭載於 Waymo 最新一代 Robotaxi，特別是與中國吉利旗下電動車品牌極氪（Zeekr）合作開發、代號 Ojai 的純電 Robotaxi，也已在洛杉磯、舊金山與鳳凰城向一般乘客開放搭乘服務。Ojai 搭載 Waymo 第六代自駕系統，相較前一代 Jaguar I-Pace 平台使用更少、成本更低的硬體元件，同時能適應更廣泛的氣候與地理環境。這也顯示，Waymo 的車載運算架構已從追求單點性能，逐步走向兼顧成本、可靠性與大規模部署的系統設計。
從前端 ASIC、液冷、雙晶片備援，到 CPU、GPU 與 ASIC 的異質運算分工，當 AI 從資料中心走入 Physical AI 場景，低延遲、環境耐受性與系統可靠度，也將與算力本身一樣，成為決定能否真正落地的關鍵。
科技的變化總是快得驚人，而我們每天的工作，就是從龐雜的趨勢中理出觀點、提煉出決策者真正需要的洞察。如果你也對 AI 發展充滿熱情，《TechOrange 科技報橘》正在徵內容編輯！
👉立即投遞履歷
【推薦閱讀】
◆ Physical AI 半年吸金 474 億美元：軟體創投為何開始改押實體世界？
＊本文開放合作夥伴轉載，資料來源：《Bloomberg》、《The Register》、《The Verge》、《SiliconANGLE》、《Gizmodo》，首圖來源：Unsplash