請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

算力成本降 67%,輝達力挺新創 doubleAI 推出首款「程式碼執行模型」

科技新報

更新於 1天前 • 發布於 11小時前

以色列特拉維夫 AI 新創公司 doubleAI 於 19 日宣布推出首款人工智慧模型「Maxwell」,旨在協助企業大幅降低運算支出。這家獲得晶片巨頭輝達(Nvidia)支持的公司表示,Maxwell 已成功讓一名早期客戶的算力成本下降 67%,並計劃在本月底前擴大推廣範圍。

doubleAI 共同創辦人兼執行長、同時也是 Mobileye 執行長的沙舒亞(Amnon Shashua)表示,Maxwell 是公司所稱的首個「程式碼執行模型」(Code Execution Model,CEM)。與協助編寫軟體的大型語言模型(LLM)不同,這類模型會在運行中的程式內部自主運算,主動尋找提升程式效能的方法。沙舒亞指出,如何驗證模型優化後的程式碼是主要的技術難題,而 doubleAI 已找到透過形式化與數學方式完成驗證的方法。

直擊 H100 租金大漲痛點,實測推論速度翻倍

公司指出,Maxwell 的目標是提高 GPU 與 CPU 的使用效率,以緩解 AI 產業日益攀升的算力成本負擔。沙舒亞表示,儘管全球硬體設備持續增加,但市場對運算能力的需求成長速度更快,因此若能更有效地利用既有硬體,就能帶來可觀的成本節省。根據半導體研究機構 SemiAnalysis 的資料,以一年期合約租用輝達 H100 晶片的每小時價格計算,較一年前已大幅上漲了 60%。

doubleAI 也透露,在經過開放權重多模態 AI 模型公司 LTX 的測試後發現,Maxwell 能讓其模型的推論(inference)速度直接提升一倍。LTX 共同創辦人兼執行長法爾伯曼(Zeev Farbman)表示,由於 GPU 使用時間本身具有明確的市場價格,因此提升效率將直接關係到成本控制。

採「按節省金額分潤」模式,擴大自購晶片布局

在商業模式方面,doubleAI 計畫根據客戶實際節省的金額按比例收取費用。沙舒亞舉例,若客戶的算力支出從 1,000 萬美元降至 600 萬美元,公司將從節省下來的 400 萬美元中抽取一部分做為分潤,但尚未透露具體拆分比例。他並表示,像 OpenAI 與 Anthropic 這類在訓練與推論支出上最高的公司,未來可能最能從 Maxwell 的普及中獲益。

doubleAI 先前已累計募得 2.2 億美元,投資人包括輝達、戴爾(Dell)、光速創投(Lightspeed Venture Partners)以及 Bessemer Venture Partners。公司表示,已將約一半的募資用於採購 1,000 顆輝達 B300 晶片,以支撐自身的運算需求。沙舒亞強調,隨著算力租用價格持續攀升,企業不能僅依賴租用算力,必須擁有自建硬體戰略。

(首圖來源:Maxwell)

立刻加入《科技新報》LINE 官方帳號,全方位科技產業新知一手掌握!

查看原始文章

更多理財相關文章

01

台積電運動會取消!員工大紅包每人領3萬

NOWNEWS今日新聞
02

太恐怖了!台灣旅客親吐歐洲住宿驚魂 保險箱遭打開、近20萬不翼而飛

自由電子報
03

〈美股早盤〉 美油價格突破100美元 重燃市場憂心 主要指數下挫

anue鉅亨網
04

中國市場急凍、單季由盈轉虧!Volvo股價崩跌30% 再裁員2500人止血

鏡週刊
05

別人退場他們掃貨 江蘇首富夫婦一路抄底買對了什麼?

anue鉅亨網
06

更新/台積電運動會取消但獎金照發 每人加碼3萬元

鏡報
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...