AI 燒錢失控,企業呼籲員工節制點用
AI 雖然可以自動運作許多工作,的確是一項劃時代變革,但是現在企業面對AI 已經不是用不用的問題,而是太貴,企業想要擁抱AI,卻受限於預算。Alphabet 執行長稱,現在才 5 月,一些全球最大的公司就已經花光全年的 AI 預算,現在企業開始呼籲員工,使用AI 要把錢花在刀口上。
AI 不只會回答問題,還會根據問題需要來執行任務,譬如AI 客服會幫客戶預約、寫程式、管理文件,但每一項任務都涉及複雜的運算,每一筆運算都要錢。AI 公司用來向客戶計費的基本單位稱為代幣(token),一個任務消耗的代幣數量,可能是發送一條簡單聊天訊息的幾十倍。
尤其是在開發者圈子裡,使用AI 進行程式設計等工作的成本呈指數級增長。有些公司急於使用AI,以至於過度使用,陷入一種被稱為「tokenmaxxing」的狂熱使用模式,因為過度使用,有些企業甚至發現代幣的成本,在使用一兩個月後就超過員工的成本。
員工自己要動點腦
外媒分析,一些公司將AI 做為生產力實驗項目納入預算,但他們發現,他們低估AI 做為營運基礎設施的成本。如Uber 就在在短短四個月內,就花光2026 年全年的程式開發工具Claude Code 和「思考預算」(Thinking Budget)。
工程師可以直接在命令列中使用Claude 來分析專案、閱讀多個檔案並自動生成或修改程式,而Thinking Budget 是指AI 在回答問題前,分配給它進行「深度推理」的運算資源或Token。但是想得越久、消耗的Token 越多,使用者的費用或點數消耗得越快。因此系統或開發者必須控制「思考預算」來平衡品質與成本。
微軟取消體驗與設備部門所有Claude Code 的授權許可,統一改用微軟自家的 GitHub Copilot,除了安全,也是顧慮成本。今年稍早鼓勵員工盡可能使用代幣來衡量生產力的Meta,也開始重新考慮這個問題,首席技術長稱,任何人都不應該為了使用而使用AI 工具。
市場尋找專業小型模型
為了降低成本,一些公司正在轉向免費、開源的AI 模型,任何人都可以下載這些模型,雖然不如ChatGPT 或Anthropic 的Claude 強大,但足以完成許多任務。
另一些人則轉向規模較小、更專業的模型,這些模型是為房地產或金融等特定行業設計。市場上已經出現來自各大實驗室的小型化、高速化、低成本的AI 產品。專家估計,巨型通用模型的價格是每百萬個代幣15 美元,迷你模型可以把價格降到5 美分左右。Alphabet 也推出Gemini 3.5 Flash,價格只有同代旗艦版本的三分之一。
AI 成本管理競賽開始
總之,AI 正變得越來越像一種商品,具體的模型不再那麼重要,重要的是找到價格合適的合適模型,因此AI 成本管理逐漸成為一門獨立的專項,能夠將模型能力與任務複雜度相匹配的公司,將比那些為所有任務部署最強大模型的公司擁有結構性的成本優勢。
但這不代表句通用模型沒有市場了,最頂尖的用戶總是願意為最好的東西付費。專家預期,隨著AI 從基礎建設邁向「落地應用」的下半場,AI 已經是一個愈做愈大的市場大餅。
(首圖來源:Unsplash)