請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

AI 燒錢失控,企業呼籲員工節制點用

科技新報

更新於 2天前 • 發布於 2天前

AI 雖然可以自動運作許多工作,的確是一項劃時代變革,但是現在企業面對AI 已經不是用不用的問題,而是太貴,企業想要擁抱AI,卻受限於預算。Alphabet 執行長稱,現在才 5 月,一些全球最大的公司就已經花光全年的 AI 預算,現在企業開始呼籲員工,使用AI 要把錢花在刀口上。

AI 不只會回答問題,還會根據問題需要來執行任務,譬如AI 客服會幫客戶預約、寫程式、管理文件,但每一項任務都涉及複雜的運算,每一筆運算都要錢。AI 公司用來向客戶計費的基本單位稱為代幣(token),一個任務消耗的代幣數量,可能是發送一條簡單聊天訊息的幾十倍。

尤其是在開發者圈子裡,使用AI 進行程式設計等工作的成本呈指數級增長。有些公司急於使用AI,以至於過度使用,陷入一種被稱為「tokenmaxxing」的狂熱使用模式,因為過度使用,有些企業甚至發現代幣的成本,在使用一兩個月後就超過員工的成本。

員工自己要動點腦

外媒分析,一些公司將AI 做為生產力實驗項目納入預算,但他們發現,他們低估AI 做為營運基礎設施的成本。如Uber 就在在短短四個月內,就花光2026 年全年的程式開發工具Claude Code 和「思考預算」(Thinking Budget)。

工程師可以直接在命令列中使用Claude 來分析專案、閱讀多個檔案並自動生成或修改程式,而Thinking Budget 是指AI 在回答問題前,分配給它進行「深度推理」的運算資源或Token。但是想得越久、消耗的Token 越多,使用者的費用或點數消耗得越快。因此系統或開發者必須控制「思考預算」來平衡品質與成本。

微軟取消體驗與設備部門所有Claude Code 的授權許可,統一改用微軟自家的 GitHub Copilot,除了安全,也是顧慮成本。今年稍早鼓勵員工盡可能使用代幣來衡量生產力的Meta,也開始重新考慮這個問題,首席技術長稱,任何人都不應該為了使用而使用AI 工具。

市場尋找專業小型模型

為了降低成本,一些公司正在轉向免費、開源的AI 模型,任何人都可以下載這些模型,雖然不如ChatGPT 或Anthropic 的Claude 強大,但足以完成許多任務。

另一些人則轉向規模較小、更專業的模型,這些模型是為房地產或金融等特定行業設計。市場上已經出現來自各大實驗室的小型化、高速化、低成本的AI 產品。專家估計,巨型通用模型的價格是每百萬個代幣15 美元,迷你模型可以把價格降到5 美分左右。Alphabet 也推出Gemini 3.5 Flash,價格只有同代旗艦版本的三分之一。

AI 成本管理競賽開始

總之,AI 正變得越來越像一種商品,具體的模型不再那麼重要,重要的是找到價格合適的合適模型,因此AI 成本管理逐漸成為一門獨立的專項,能夠將模型能力與任務複雜度相匹配的公司,將比那些為所有任務部署最強大模型的公司擁有結構性的成本優勢。

但這不代表句通用模型沒有市場了,最頂尖的用戶總是願意為最好的東西付費。專家預期,隨著AI 從基礎建設邁向「落地應用」的下半場,AI 已經是一個愈做愈大的市場大餅。

(首圖來源:Unsplash)

立刻加入《科技新報》LINE 官方帳號,全方位科技產業新知一手掌握!

查看原始文章

更多理財相關文章

01

不忍了!阮慕驊曬4大對帳單「台股狂賺2056萬」 反擊酸民:比我強再來酸

三立新聞網
02

黃仁勳首次辦桌謝員工 高喊台灣生態系站在一起

中央通訊社
03

加入股王行列看這次!信驊宣布首度招募新鮮人 董座林鴻明親自授課

鏡報
04

群創等12檔台股「明起抓去關」 一路處置到6/17

EBC 東森新聞
05

獨家》又有券商出包!這檔權證「左手換右手」爆出60億元天量,證交所要查了

風傳媒
06

黃仁勳想刷「一萬元小費」送不成 霸氣舉動超反轉

EBC 東森新聞
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...