請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

戴爾科技攜手NVIDIA擴展代理式AI版圖 從桌邊運算到資料中心全面布局

Zeek玩家誌

更新於 10月23日01:02 • 發布於 10月23日01:02

戴爾科技集團宣布Dell AI Factory with NVIDIA迎來多項重大進展,涵蓋AI解決方案與生態系創新、全新桌邊代理式AI解決方案,以及專為AI打造的基礎架構,協助企業在自有且可自主掌控的基礎架構上,將代理式AI從實驗階段推進至正式營運。Dell AI Factory with NVIDIA客戶數已從上一季的5,000家成長至超過6,500家,進一步展現端到端整合策略在創造可衡量商業成果方面的實際效益。

推動企業AI落地應用與市場趨勢

企業代理式AI預計將於2028年成為規模最大的單一工作負載,到2030年的成長速度更將接近生成式AI的三倍。然而,快速成長不代表必然能創造實際成果,若要全面理解其影響,仍須從token的使用量與成本變化切入。

預計到2030年,AI推論成本將下降逾90%,但代理式AI預期將帶動token用量成長24倍。隨著企業重新評估資源配置、力求將投資效益最大化,投資報酬率(ROI)不明確仍是59% 企業部署AI的首要障礙;另有83% 的企業表示,選擇AI合作夥伴時,最重視供應商能否提供涵蓋AI完整生命週期的端到端支援。

企業若擁有自有AI基礎架構,便能更自主地掌控成本、資料與營運,這是單純仰賴公有雲難以比擬的優勢。以兩年期間計算,Dell AI Factory的成本效益最高可較公有雲提升90%。然而,僅有基礎架構自主權與成本優勢仍不足夠。企業還需要完善的AI基礎架構,在擴展AI應用規模的同時,協助選擇合適工具、監控效能、落實政策並控管成本,進而確保投資報酬率與效能表現。

Dell AI Factory with NVIDIA正是為回應上述需求而打造,由單一值得信賴的合作夥伴提供業界最廣泛的AI產品組合,整合經驗證的解決方案、持續擴展的開放生態系、專業服務及端到端的AI就緒資料基礎,協助企業更有信心地將AI從試行階段推進至正式營運。

經驗證的AI解決方案與服務,加速實現商業成果

要將代理式AI轉化為實際商業效益,單靠AI模型並不足夠。Dell AI Factory with NVIDIA提供安全且高度整合的AI解決方案,結合戴爾科技設計的系統、軟體與自動化技術,以及匯集領先AI軟體、經驗證的開放生態系,協助企業在自有且可自主掌控的基礎架構上,以更快速度、更低風險導入經實證的AI應用,創造實際成果。

Reflection的開放權重模型Beam現已通過Dell AI Factory with NVIDIA驗證,讓企業能在自主掌控的基礎架構上,部署採用Apache 2.0授權、專為軟體工程與長時間運作的代理式AI任務打造的前沿模型。戴爾科技亦透過Dell AI Ecosystem Program,針對關鍵企業應用情境推出全新及更新的經驗證解決方案,包括與Dynatrace合作的AI可觀測性(AI observability)、與Mistral合作的知識助理及代理式AI平台,以及與Fogsphere合作的電腦視覺(computer vision)。從AI模型、應用程式到作業系統,包括新加入的SUSE Linux,Dell AI Factory with NVIDIA提供涵蓋完整AI軟體堆疊的多元選擇。

為AI代理建立安全且可擴展的基礎至關重要。戴爾科技以Dell AI Factory with NVIDIA為基礎,推出分層式安全架構,整合經驗證、以硬體為信任根基的基礎架構、用於執行階段治理的NVIDIA OpenShell參考架構,以及負責平台協調與管理的Red Hat AI Factory軟體。此整合式安全架構涵蓋執行階段、網路、資料及基礎架構各層,協助企業在大規模部署環境中安全運行自主式AI代理。

部署合適的解決方案只是其中一環。Dell Managed Services for AI協助企業在從試行階段邁向正式營運、持續擴展AI應用規模的過程中,最佳化資源配置、管理存取權限,並控管AI資源使用量與成本。開發團隊可透過安全的自助服務機制存取AI資源,同時讓IT部門維持所需的治理與財務控管能力。

代理式AI延伸至桌邊應用

AI的實際進展始於日常工作場域。已有81% 的企業正規劃、試行或部署AI PC,顯示桌邊運算正成為企業AI架構中的關鍵一環。為因應此需求,戴爾科技透過全新經驗證的參考部署範本,進一步擴展Dell Deskside Agentic AI。其中,Dell Deskside Agentic AI Solutions for NVIDIA協助企業降低擴展代理式AI工作流程時的複雜度,每份部署藍圖皆明確列出執行代理式AI應用所需的硬體、AI模型與軟體堆疊,涵蓋代理式程式開發、代理式VSS、NVIDIA NemoClaw、在NemoClaw上執行的Hermes Agent,以及高等教育AI實驗室平台,協助企業從單一開發人員的應用,安全擴展至涵蓋1,000台以上系統的企業級部署。

在Dell Deskside Agentic AI硬體方面,Dell Pro Precision with GB10將推出搭載64GB統一記憶體的配置,適合個人開發人員與小型團隊,為本地端代理式AI開發提供更容易入門的選擇,並具備執行領先開放權重模型的能力。此款桌上型電腦可透過兩台或四台系統組成叢集,進一步支援更大型的AI模型、更多AI代理及更複雜的工作流程。Dell Pro Precision with GB300則將推出Windows版本,在企業既有管理的Windows環境中,提供高達748GB的一致性記憶體與20 petaflops的FP4運算效能,將強大AI運算能力延伸至桌邊。

專為大規模AI應用打造的基礎架構

隨著代理式AI及其他AI工作負載持續成長,戴爾科技全新平台提供企業擴展規模所需的高密度、高效率運算能力,協助企業更有信心地推動AI規模化應用。這些新產品兼具效能與彈性,讓企業在擴充AI運算能力的同時,也能有效管理token需求攀升所帶來的成本挑戰。

  • 貨櫃式、出廠整合的完整AI解決方案:隨著AI運算需求持續成長,縮短實現初步成果的時間已成為企業競爭優勢,模組化基礎架構因此扮演關鍵角色。憑藉戴爾科技在模組化資料中心領域長期累積的創新經驗,Dell Modular Data Center with NVIDIA DSX POD採用參考設計,提供完整的AI基礎架構。此貨櫃式Dell AI Factory將整合運算、儲存、網路、機架級電力供應及液冷系統,企業只需接入預先備妥的電力設施,即可降低現場整合的複雜度。這些系統以戴爾科技逾20年的工程技術與專業經驗為後盾,涵蓋整合、測試、交付、部署及完整生命週期管理。
  • 以CPU執行代理式AI:Dell PowerEdge M9882伺服器可在單一48U機架中配置256顆NVIDIA Vera CPU,專為執行代理式AI工作負載而打造,涵蓋代理協調與調度、工具使用、程式碼執行及評估等任務,並可搭配GPU基礎架構進行模型推論。透過將CPU運算與GPU叢集分離,企業可部署NVIDIA Vera CPU Rack,更有效運用資料中心的電力與散熱容量,避免混合用途伺服器的過度資源配置,在降低複雜度的同時,靈活擴展AI運算規模。
  • 主流企業適用的代理式AI:Dell PowerEdge R8822伺服器將氣冷式雙插槽NVIDIA Vera CPU的運算效能導入標準19吋機架環境,針對代理協調與調度、沙箱隔離等代理式AI工作負載,以及強化學習、資料處理與分析進行最佳化。此伺服器亦支援最多四張雙寬GPU,可進一步加速AI及運算密集型任務。
  • 支援大規模高吞吐量推論:Dell PowerEdge XE9810伺服器將率先提供機架級推論能力,配備16組採用直接液冷技術的運算托盤,並搭載Groq 3語言處理單元(LPU)。以NVIDIA LPU為基礎的推論架構,可作為現有GPU叢集的理想分離式互補方案,專為滿足正式營運階段代理式AI的高吞吐量需求而打造。
  • 延伸至網路邊緣的AI:電信網路本身正逐步演變為AI網路。隨著行動AI流量持續成長,部署於Dell PowerEdge伺服器的全新NVIDIA Aerial RAN Computer(ARC)平台,為通訊服務供應商提供在網路邊緣處理AI工作負載的參考架構,讓無線接取網路(RAN)與AI工作負載共用相同的運算資源,而無須分別部署於獨立系統,進而降低總體擁有成本並簡化營運管理。

業界領袖觀點

戴爾科技集團董事長暨執行長Michael Dell表示:「過去,企業將AI基礎架構視為IT預算議題,如今已從成本中心轉變為價值創造的核心。企業正擴大並重新配置預算,因為AI基礎架構已成為驅動業務成長、提升生產力及建立競爭優勢的關鍵。戴爾科技攜手NVIDIA提供整合式平台,協助企業在自有且可自主掌控的基礎架構上,推動代理式AI從實驗走向實際成果。」

NVIDIA創辦人暨執行長黃仁勳表示:「AI代理具備推理、使用工具及學習的能力,而這些能力需要全新型態的運算系統支援。戴爾科技與NVIDIA攜手打造AI時代的運算基礎,從桌邊到資料中心,讓企業能夠以產業級規模安全地建置與運行AI代理。」

Moor Insights & Strategy副總裁暨首席分析師Matt Kimball表示:「市場正邁入新階段,企業關注焦點逐漸從建置AI基礎架構轉向創造可衡量的商業成果。Dell AI Factory with NVIDIA持續擴展,展現結合經驗證解決方案、生態系整合、自動化與專業服務的成熟策略,協助企業以更低風險、更高信心,推動AI從試行階段邁向正式營運。」

玩家總結

戴爾科技此次攜手NVIDIA全面擴展Dell AI Factory陣容,不僅將解決方案從資料中心一路延伸至桌邊運算(如全新推出的Dell Pro Precision with GB10與GB300系統),更針對代理式AI的爆發性需求,提供包含高密度伺服器、模組化資料中心與完整軟體堆疊的端到端架構。透過強大的在地自主掌控能力與高度整合的生態系,協助企業大幅降低導入風險與成本,加速AI專案從實驗階段真正邁向可衡量的商業營運成果。

延伸閱讀:
Google Cloud擴大模型選擇與彈性 正式於Model Garden中推出OpenAI模型
12星芒口袋王者!首度搭載可變光圈鏡頭的 iPhone 18 Pro 開箱動手玩
拉亞漢堡攜《真·三國無雙》推聯名餐點!還有限定周邊必收超萌「三國武將寵物頭套」
《新楓之谷》海外限定年度慶典《星夜馬戲團》搖滾開跑 墮落城市搖滾節、跨服競技全面登場

更多理財相關文章

01

無懼AI大逃殺!散戶狂掃0050、00631L爆量784億元、340億元新高

太報
02

金管會限空令來了!11/9起調降借券賣出限額、提高融券保證金成數

工商時報
03

台股盤中一度大跌3737點、收盤跌1873點 台積電一周跌掉6兆市值、環球晶蒸發3成2市值

信傳媒
04

台股單周暴跌5,510點創史上最慘!外資連7賣 專家曝反彈關鍵

工商時報
05

國安基金第10次進場! 啟動安定市場任務維護台股穩定

台視
06

直接下重手防止恐慌! 因應國際股災恐慌 金管會祭出五措施

鏡週刊
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...