算力成本降 67%,輝達力挺新創 doubleAI 推出首款「程式碼執行模型」
以色列特拉維夫 AI 新創公司 doubleAI 於 19 日宣布推出首款人工智慧模型「Maxwell」,旨在協助企業大幅降低運算支出。這家獲得晶片巨頭輝達(Nvidia)支持的公司表示,Maxwell 已成功讓一名早期客戶的算力成本下降 67%,並計劃在本月底前擴大推廣範圍。
doubleAI 共同創辦人兼執行長、同時也是 Mobileye 執行長的沙舒亞(Amnon Shashua)表示,Maxwell 是公司所稱的首個「程式碼執行模型」(Code Execution Model,CEM)。與協助編寫軟體的大型語言模型(LLM)不同,這類模型會在運行中的程式內部自主運算,主動尋找提升程式效能的方法。沙舒亞指出,如何驗證模型優化後的程式碼是主要的技術難題,而 doubleAI 已找到透過形式化與數學方式完成驗證的方法。
直擊 H100 租金大漲痛點,實測推論速度翻倍
公司指出,Maxwell 的目標是提高 GPU 與 CPU 的使用效率,以緩解 AI 產業日益攀升的算力成本負擔。沙舒亞表示,儘管全球硬體設備持續增加,但市場對運算能力的需求成長速度更快,因此若能更有效地利用既有硬體,就能帶來可觀的成本節省。根據半導體研究機構 SemiAnalysis 的資料,以一年期合約租用輝達 H100 晶片的每小時價格計算,較一年前已大幅上漲了 60%。
doubleAI 也透露,在經過開放權重多模態 AI 模型公司 LTX 的測試後發現,Maxwell 能讓其模型的推論(inference)速度直接提升一倍。LTX 共同創辦人兼執行長法爾伯曼(Zeev Farbman)表示,由於 GPU 使用時間本身具有明確的市場價格,因此提升效率將直接關係到成本控制。
採「按節省金額分潤」模式,擴大自購晶片布局
在商業模式方面,doubleAI 計畫根據客戶實際節省的金額按比例收取費用。沙舒亞舉例,若客戶的算力支出從 1,000 萬美元降至 600 萬美元,公司將從節省下來的 400 萬美元中抽取一部分做為分潤,但尚未透露具體拆分比例。他並表示,像 OpenAI 與 Anthropic 這類在訓練與推論支出上最高的公司,未來可能最能從 Maxwell 的普及中獲益。
doubleAI 先前已累計募得 2.2 億美元,投資人包括輝達、戴爾(Dell)、光速創投(Lightspeed Venture Partners)以及 Bessemer Venture Partners。公司表示,已將約一半的募資用於採購 1,000 顆輝達 B300 晶片,以支撐自身的運算需求。沙舒亞強調,隨著算力租用價格持續攀升,企業不能僅依賴租用算力,必須擁有自建硬體戰略。
Nvidia-Backed Startup doubleAI Launches Model to Pare Cost of Compute
Nvidia-backed doubleAI says its AI model cut an early customer's compute costs 67%
(首圖來源:Maxwell)