請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

AI 愈強卻愈燒錢:代理式工作流是 Token 狂飆最大兇手,企業面臨預算失控危機

科技新報

更新於 07月21日11:38 • 發布於 07月21日11:40

AI 產業出現日益明顯的矛盾:模型性能持續進步、單位成本不斷下降,但企業 AI 帳單快速膨脹。最新觀察,問題核心不僅模型推理本身,更在日益普及的「代理式工作流」(agentic workflows)。這種流程執行多步驟任務時,會反覆讀取上下文、呼叫工具並重覆測試,導致 Token 消耗量呈倍數甚至數十倍增長。

簡單問答可能僅需數百到數千個 Token,但看似平常的工作如串接 Excel、CRM 與網路搜尋製作報告,累積消耗量可能高達數十萬甚至數百萬個 Token。由於模型每次互動時都必須重新處理整段對話與檔案,對話長度與步驟越多,成本與回應時間就越容易失控。如每 15 分鐘執行一次的製作榜單,月費可能從數十美元迅速攀升至數千美元;更複雜的多階段報告,單一任務成本甚至可能高達數萬美元。

這股壓力已迫使 Anthropic、OpenAI、微軟等 4 月轉向按用量計費,並收緊固定方案 Token 上限。對大型企業而言,AI 支出不再是技術部門議題,也成為財務部門必須嚴密監控的成本項目。Uber、微軟、亞馬遜、沃爾瑪等都開始控制 AI 開支,因大量部署代理後,AI 支出甚至高過人事成本。

補充資料顯示,這並非個案,而是企業現在普遍管理難題。麥肯錫(McKinsey)調查,93% 企業 AI 團隊已超過預算,且代理式 AI 支出,60% 來自反覆修正與重寫輸出。另有研究提到,儘管 Token 價格兩年中大幅下滑,但企業 AI 帳單仍持續升高,主因就是用量與工作流程複雜度成長速度更快。部分企業甚至幾個月內就花光全年 AI 預算,被迫緊急重新協商合約或追加資金。

業界開始轉向「Tokenomics」(Token 經濟學)與成本管理,包括採 Prompt 快取(Prompt Caching)、模型路由(Model Routing)、批次處理(Batching)、語意快取(Semantic Caching)、縮短上下文窗口,以及將簡單任務交給較小模型,大型模型留給高難度事項。專家認為,若企業缺乏可視化與成本歸因機制,AI 規模化將不只提高效率,而是更難預測且更難控制的成本支出飆升。

(首圖來源:AI)

立刻加入《科技新報》LINE 官方帳號,全方位科技產業新知一手掌握!

查看原始文章

更多理財相關文章

01

黃仁勳啟用X帳號迅速圈粉 首帖暢談AI發展理念

中央通訊社
02

最低21元中獎!3-4月發票中千萬6人還沒來領

NOWNEWS今日新聞
03

雷虎、尚茂等7/27打入處置 聯亞等42檔列入注意股

自由電子報
04

致癌油新進度3/損失破億忙跟客戶協商 問題油品通通拿去做「這個」

鏡週刊
05

平息致癌油風暴!中聯油脂3大股東掛保證 疑慮未釐清前不會復工

自由電子報
06

下周台股反攻有望?美國科技巨頭傳好消息 台指期夜盤一度勁揚近500點

民視新聞網
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...