請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

理財

LG、OpenAI 都在測試!南韓新創 FuriosaAI 押注 AI 推理新戰場,正面挑戰 NVIDIA 市占

TechOrange 科技報橘

更新於 2天前 • 發布於 2天前 • 李昀蔚

隨著生成式 AI 應用在全球加速擴張,企業在模型部署的「推理」階段面臨極高的運算需求與成本壓力,也促使推理晶片成為半導體市場的新競爭焦點。在這樣的背景下,南韓新創公司 FuriosaAI 將自身定位為「專注於 AI 推理」的挑戰者,目的是提供 NVIDIA 之外的替代方案,而非在訓練領域展開正面競爭。

目前,NVIDIA 的 GPU 在 AI 運算市場占據了 90% 至 94% 的市占率,但多數資源集中於模型訓練。FuriosaAI 創辦人 June Paik 認為,過度依賴單一供應商並非好事,「由單一玩家統治的市場並不是一個健康的生態系統,不是嗎?」

NVIDIA 在 AI 訓練市場具有壓倒性市占,但在推理市場出現新空間

儘管 NVIDIA 目前仍主導 AI GPU 市場,且軟體生態系相當完整,但市場競爭格局正在發生變化。《Intuition Labs》研究顯示,隨著 AI 應用大規模普及,將訓練好的模型應用於實際場景的「推理」(Inference)階段,其運算操作量已超過訓練階段。

這項轉變也為專用晶片創造新的切入空間。《Intuition Labs》指出,預計到 2027 年,推理晶片市場規模將達到 1,020 億美元,在這樣的背景下,企業會開始優先考慮能源效率與成本優化,並積極評估是否有比通用 GPU 更符合特定工作負載的專用硬體選項。

FuriosaAI 正是利用這一結構性趨勢切入市場,致力提供比傳統 GPU 更具效能與成本優勢的「神經處理單元(NPU)」。 June Paik 早在 2017 年離開三星電子時,就展現出對這場 AI 典範轉移的高度信心,同時透過研發 RNGD 晶片,目標在由單一廠商主導的環境中,為全球資料中心提供更具永續性的運算方案。

RNGD 推理晶片的產品定位:以能效與成本作為差異化訴求

FuriosaAI 的核心產品名為 RNGD,是「叛逆者(Renegade)」的縮寫,為一款專門為 AI 推理階段所設計的神經處理單元(NPU)。與追求通用多功能性的傳統 GPU 不同,RNGD 的設計目標是極大化運算效率並顯著降低功耗。

June Paik 指出, RNGD 能提供與 NVIDIA 高階 GPU 相當的效能,但耗電量更低,這將有效驅動並降低部署 AI 系統的總體營運成本。在技術架構上,RNGD 採用台積電(TSMC)5 奈米製程與張量收縮處理器(TCP)架構,該架構是專為處理大型語言模型(LLM)與多模態 AI 推理的核心運算而設計。

《AInvest》指出,RNGD 在執行 LLM 時,其每瓦推理效能比 NVIDIA 的 H100 高出 2.25 倍。此外,其 180W 的功耗配置,對於面臨電力與冷卻成本攀升壓力的資料中心而言也極具吸引力。

在 2024 年史丹佛大學舉辦的 Hot Chips 大會主題演講中,June Paik 將 RNGD 定義為「永續 AI 運算」(sustainable AI computing)的解答,並展示 RNGD 在運行 Meta 的 Llama 大型語言模型時,能源效率超過 NVIDIA 頂級晶片兩倍以上的數據。當時的數據震驚業界,「在那一刻,我們覺得真的可以帶著信心,推動我們的晶片往前邁進,」June Paik 說。

RNGD 晶片進行商業規模量產,與 LG、OpenAI 展開合作

FuriosaAI 已計畫在 2026 年 1 月正式對 RNGD 晶片進行商業規模量產。目前,FuriosaAI 正與多家潛在客戶進行最後的測試與驗證,並積極展開商務洽談。為了進一步建立開發者生態系並擴大市場觸角,FuriosaAI 計畫將產品導入 Microsoft Azure Marketplace,讓雲端客戶能更便利地選用這款高能效的替代方案。同時,FuriosaAI 也與 hosted·ai 展開合作,共同提供由 RNGD 驅動的專屬 AI 基礎設施服務。

在實際應用案例中,LG AI Research 已在 EXAONE 基礎模型中深度測試 RNGD,並公開證實該晶片展現出「卓越的實務表現」。此外,OpenAI 最近也在首爾的一場活動中親自演示使用 FuriosaAI 晶片的情況,被視為 RNGD 進入實質應用評估階段的重要指標。

FuriosaAI 選擇拒絕被收購、持續募資的獨立擴張路徑

儘管面臨巨頭競爭,FuriosaAI 選擇維持獨立發展的艱難道路。2025 年,FuriosaAI 拒絕來自 Meta Platforms 高達 8 億美元的收購提案,因為領導層認為,比起成為大科技公司的附屬團隊,獨立擴張更能發揮長遠價值。

為了支持「發揮長遠價值」的策略,FuriosaAI 持續從資本市場獲取成長動能,例如近期完成 1.25 億美元的融資,使公司估值接近 7 億美元。對於 June Paik 展現的願景與執行力,FuriosaAI 共同創辦人兼技術長 Hanjoon Kim 形容 June Paik 始終堅持長遠目標,「他一向支持我們必須優先考慮長遠使命,而非眼前的安全感。」

回首創業初期的艱辛,June Paik 感慨地表示:「我想這可能是塞翁失馬,焉知非福。」在 AI 算力重心逐步轉向推理階段之際,FuriosaAI 的選擇不僅是一家新創的生存策略,也反映出半導體產業正站在結構轉換的關鍵節點:正有新的技術,悄悄在推理市場開拓新的商業發展空間。

*本文開放合作夥伴轉載,資料來源:《WSJ》《CryptoPolitan》《AInvest》,首圖來源:FuriosaAI

解鎖 3 堂 NVIDIA DLI 技能培訓課!立即報名 1/10【AI 人才年會暨 AI 職涯博覽會】,就能免費參與課程強化 AI 能力、為職涯加分

加入『 TechOrange 官方 LINE 好友』 掌握最新科技資訊!

查看原始文章

更多理財相關文章

01

AI搶飯碗!美媒點名「最可能消失」7種工作

NOWNEWS今日新聞
02

你在淘汰名單上嗎?到2030年最可能消失的7種職業1次看

自由電子報
03

年薪破300萬!黃仁勳點未來搶手「3職業」成金飯碗:寫程式不是唯一出路

三立新聞網
04

「定期定額台積電」竟1股都沒買到 投資新手揭背後真相!全網朝聖:謝謝提醒

鏡週刊
05

她退休11年總花費只有314萬!居無定所走到哪、玩到哪、住到哪,壯遊世界把旅行當生活

幸福熟齡 X 今周刊
06

賣藍莓先看台灣!外媒曝市場的秘密

自由電子報
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...