華碩與興大合作以 NVIDIA 解決方案建置先進 AI 基礎建設，邁向「AI Enabled University」
國立中興大學以強大的研究能量與最新的 AI 基礎建設，成功串聯智慧製造、智慧醫療、智慧農業跨域合作，不僅落實高效能運算在學術研究和產業應用，更能推動興大成為中台灣 AI 生態的重要樞紐。（由左至右為陳冠辰助理教授、宋振銘研發長、簡瑞與系主任、王世明副系主任、藍國瑞副教授、吳忠翰助理教授；圖片來源：科技新報）
華碩作為業界領先的 AI 基礎設施供應商，與興大和康斯特合作，供應 NVIDIA DGX™、NVIDIA RTX™等硬體設備，完成伺服器機房建置。NVIDIA DGX™ H200 可提供強大的人工智慧基礎，NVIDIA RTX™ A6000 則運用在機器訓練後的模型推理上，成為教學、研發結合 AI 所需的強大運算資源。透過華碩多樣化的硬體產品線及軟體解決方案，憑藉著以往建構 AI 伺服器所面對的多樣化需求的經驗，除了協助打造 AI 生態系統落地應用，提供包括 ACC (ASUS Control Center)、AIDC (ASUS Infrastructure Deployment Center)、BMC 等一站式平台所需要的建置、部署與營運需求，同時兼顧整個資料中心生命週期的管理需求。為各式應用場域做到無縫接軌與迅速擴展的 AI 系統的建置，大力支援興大在內不同研究教學領域的 AI 部署取得重大進展。
進一步來看，NVIDIA DGX™ H200 隸屬於 DGX 平台，由 8 個 H200 Tensor 核心 GPU 並搭載 1,128 GB 的 GPU 記憶體，每個 GPU 擁有 18 個 NVIDIA NVLink™ 連結，提供每秒 900 GB 的 GPU 對 GPU 雙向頻寬，同時結合 4 個 NVIDIA NVLink™ Switch、10 個 NVIDIA ConnectX®-7每秒 400GB 網路介面、雙 Intel Xeon Platinum 8480C 處理器及 30TB NVMe SSD，帶來絕佳 AI 運算效能。
▲ NVIDIA DGX™ H200 拓展商業創新與最佳化的新疆界 (Source: 華碩)
中興大學研發長宋振銘指出，興大的 AI 算力完成部署後，成為國內少數擁有如此強大 AI 算力的大學院校，未來將支援 15 間大學組成的台灣國立大學系統（NUST）跨域研究和教學，從課程學習、學生專題、到產學合作研發，均能大量運用 AI 能量， 充實學生 AI 能力、加速研究課題開發，並且幫助業界解決問題。
AI 強化智慧製造
2023 年 11 月揭牌啟用的興大智慧製造整線人才培育基地，屬於一座導入最新科技的類產線無人智慧製造示範工廠，在教育部經費支持以及產業捐助下，智慧產線整合了天車式五軸機、車銑複合五軸機、CNC 三軸機、CNC 車床、線上量測比對儀、雷射雕刻機、AIoT、即時感知、AOI 線上檢測、ERP、MES、自動派工系統、協作機器人和無人搬運車、智慧倉儲、AR 與 VR 數位孿生虛擬系統、SOP 製程監控系統、可視化即時戰情監控、能源管理系統、三次元量床、x-ray 殘留應力儀、超音波探傷儀等近 70 種最先進的軟硬體設備。不只如此，為來更將結合 NVIDIA DGX™ H200 驅動的 AI 強大算力，擴增複合 AI 功能應用於智慧產線整體運作上。透過軟硬體的高度整合，該基地成功實現了整體生產與管理效能 35% 的顯著增長。
過去生產製造通常以單一機台應用最佳化進行生產，現今智慧製造新階段應用已可從整產線一貫化、智慧自動化的視角度加以規劃，在大算力支援下，透過智慧聯網讓產線中各機台進行協同數據分享、設備/製程/品質/稼動/能耗智慧管理、虛實整合整線可視化智慧監控、最適AI決策應用，進而達到高精、高效、智動和低能耗整線優化生產的目標。
中興大學機械系助理教授陳冠辰指出，當有訂單進入智慧製造產線，由於多項產品正在生產，此時透過 AI 介入生產管理系統做適當的智慧排程，在確認原物料庫存足夠下自動派工，AI 協助規劃最佳的搬運路徑，透過載有協作機器人的無人搬運車自動搬運工件至加工機台上下料，同時結合協作機器人上的 AOI 系統進行機上加工誤差檢測與匹配式誤差補償，在無需下載工件/刀具量測即可補償加工誤差、自動辨識刀具磨耗狀態，進一步提升整線加工精度與最佳換刀時機（機台稼動)。完成加工製程後，協作機器人會自動將工件運至超音波清洗機和雷雕機，進行自動清洗、刻碼與入庫。此外，結合 SOP 製程監控系統和能源管理系統也可針對全製程做生產流程異常辨識和完整能耗履歷記錄，做為持續製程優化的依據。
示範智慧工廠以 3 類產業應用製程做範例（1. 製鞋模具、2. 航太渦輪葉片、3. 半導體夾座)，可滿足金屬加工、航太和軍工、半導體封裝製程等產業的研發應用需求。
AI 深入智慧醫療、智慧農業
興大投入智慧醫療研究，與台中榮民總醫院、彰化基督教醫院、秀傳醫療體系、童綜合醫院等 4 大教學醫院緊密結合，多項合作計畫導入深度學習和 AI 技術。AI 相關應用發展包括細胞的影像辨識，傳統做法依賴醫檢師在暗房觀察變化細胞型態，不僅耗費時間且在昏暗環境有損視力。機械系副教授藍國瑞分享興大與台中榮總合作，運用 AI 進行細胞影像分析，相較於一般工作站，透過高效能 AI 運算平台可將計算效能提升數十倍以上，使原本需耗時數小時的分析流程縮短至數分鐘內完成，快速找出細胞關鍵特徵，提供醫師更即時且具參考價值的判斷依據。藍教授也舉出獸醫系的合作案例，當要判斷罹患哪一種癌症，通常經由切片檢查等複雜程序，從生物標記（biomarker）判斷罹患癌症的機率大概有多少。這對人類治療而言相當常見，但對寵物就不一樣，獸醫所掌握的動物罹癌樣本相對人類少很多，寵物求診通常已有疾病，這時收集不到健康情況下的數據，不利於判斷差異。因此從寵物抽血、進行生物標記時，興大導入 AI 協助整合與比對多項檢測結果，將原本需耗時 4 至 6 小時的人工分析與判讀流程，大幅縮短至分鐘等級完成初步罹癌風險評估，有效提升診斷效率。
在與彰化基督教醫院皮膚科的合作中，機械系助理教授吳忠翰團隊導入 AI 進行多維度資料分析，整合汗水生物指標與臨床資訊，探討影響異位性皮膚炎患者癢感的可能因素。相較傳統以單一變項與參數化分析為主的方法，此作法可有效簡化資料整理與分析流程，縮短研究所需時間，並協助醫師從整體脈絡理解致癢機制，作為後續臨床討論與研究的重要參考。
應數系郭至恩副教授也指出，在 NVIDIA H200 高效能 GPU 導入後，可望將 AI 輔助影像判讀診斷百倍加速，相關深度學習模型訓練時間可縮短至 1/5 至 1/10，讓模型的參數調試與落地應用推廣速度提升 5 倍以上。
在智慧農業方面，興大以國科會 TAIDE 模型為基礎，開發出農業專用生成式 AI「神農 TAIDE」。它整合農業部 1 萬 8 千多筆文獻以及興大圖書館碩博士論文 8 千多筆典藏，使 AI 回應更具體、更貼近農業現況，提供專業農業知識，滿足農民、學研單位及農企業等農業栽培管理上的多種需求。
資工系范耀中教授提到，未來導入 NVIDIA DGX™ H200 高效能 GPU 後，神農 TAIDE 在處理 26,000 篇以上農業文獻與學位論文所構成之 RAG（Retrieval-Augmented Generation）知識庫時，整體推論與檢索效將顯著提升。具體而言，推論速度提升約 1.7~1.9 倍：H200 在執行以 LLaMA 70B 為核心之大型語言模型推論任務時，可帶來約 1.7 至 1.9 倍的推論效能提升。此一加速效果使得研究人員提出專業農業問題後，系統生成具文獻依據之完整回應時間，由原本需等待數十秒，縮短至數秒內，大幅改善即時互動體驗。
此外，知識庫檢索延遲降低約 40%：H200 所搭載之 HBM3e 高頻寬記憶體（頻寬達 4.8 TB/s），使系統能於單次運算中載入更多農業文獻向量索引與上下文資料，有效降低 RAG 架構中「資料搬運」所造成的瓶頸。相較於既有架構，整體知識庫檢索延遲可降低約 40%，進一步提升多文件檢索與生成整合時的系統反應速度。
微電網支持興大 AI 基礎建設
興大在校本部、南投分部，獲得台電建置微電網，同時運用太陽能、生質能等來源，為教學研究、校務運作提供充足電力。
為了在興大計資中心部署耗費大量電力的 AI 基礎設備，伺服器機房重新規劃電力系統，並連接興大的微電網，足以孤島運作一段時間，即使緊急停電，這些設備仍有緩衝時間用於關機、等待復電，保護資料和使用者。
機械系系主任簡瑞與跨入催化劑反應工程方面的研究，在催化劑的開發、反應器的設計，需要進行大量實驗和數據，已有許多專家將數據歸納成模型，以預測催化劑反應能力、反應器規模大小，研究結合 AI 同樣有助於興大節能減碳。
機械系副系主任王世明補充說，使百工百業受惠，將是興大積極運用 AI 之目的。單一公司或單一機構，光是砸錢建置硬體設備就想讓 AI 發揮功能，邊際效益並不高。相對地，興大有充沛的研究能量，從製造、醫療、農業等累積不同領域的研究數據，攜手盟校、公協會、醫療院所、政府機關，可將應用成果回饋百工百業。
透過 NVIDIA 與華碩的技術支援，興大打造具前瞻性的算力環境，為百工百業提供可複製、具效益的 AI 解決方案。研發長宋振銘強調，AI 基礎建設建置落地，中興大學成為「AI Enabled University」。隨著跨校與跨域深化合作，興大將以 AI 驅動更多創新成果，持續擴大對產業和社會的影響力。
▲ 興大研究團隊於全新 AI 基礎設施前合影，宣示校方邁向 AI Enabled University。（Source：科技新報）
（首圖圖說：由左至右為陳冠辰助理教授、宋振銘研發長、簡瑞與系主任、王世明副系主任、藍國瑞副教授、吳忠翰助理教授；圖片來源：科技新報）