Google前AI總監轉任新創NeuReality顧問 助推論OS搶攻企業市場

商傳媒｜責任編輯／綜合外電報導

以色列新創公司NeuReality於本週一（3月23日）宣布，已延攬曾任Google Labs產品管理總監的Shalini Agarwal為策略顧問。Agarwal女士將負責協助NeuReality的NR-NEXUS推論作業系統，開拓企業客戶市場。此舉凸顯AI領域人才流動，以及專注於優化AI硬體效能解決方案的重要性。

Shalini Agarwal在科技產業擁有近二十年的產品策略經驗，曾服務於Google Labs及eBay等知名企業，並持有麻省理工學院（MIT）電腦科學、電機工程及管理科學學位。她在NeuReality的職位為顧問性質，主要聚焦於上市策略。

NeuReality最初以設計AI推論的客製化晶片起家，隨後轉型至軟體開發。該公司已於3月12日發表NR-NEXUS，這是一款為「AI工廠」打造的硬體中立（hardware-agnostic）作業系統。NR-NEXUS的設計目標是透過解耦預填充（prefill）和解碼（decode）任務，使其能跨異質硬體（包括圖形處理器GPU、中央處理器CPU和網路介面卡NIC）運行，從而提高昂貴加速器的利用率，解決部分閒置問題。目前已有測試客戶正在運行NR-NEXUS軟體，未來也將支援輝達（NVIDIA）即將推出的Vera Rubin架構。

市場研究機構德勤（Deloitte）估計，AI推論工作負載在2025年已佔總AI運算量的一半，今年預計將進一步提升至三分之二。為應對此趨勢，超大規模業者（hyperscalers）如亞馬遜（Amazon）預計2026年將投入2,000億美元，而Google的預算則介於1,750億至1,850億美元之間。輝達（NVIDIA）執行長黃仁勳（Jensen Huang）也曾提及，未來的資料中心將成為「代幣工廠」（token factory）。

NeuReality迄今已募得約7,000萬美元資金。其中包括2022年底由三星創投（Samsung Ventures）、OurCrowd和SK海力士（SK Hynix）領投的3,500萬美元A輪募資，以及2024年3月歐洲創新理事會基金（European Innovation Council Fund）與現有投資者共同注資的2,000萬美元。Agarwal的加入被視為對能夠彌補晶片與企業大規模運行模型之間鴻溝的公司的一大押注。