請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

AI開始變貴了!Uber、微軟、台灣金融業帳單失控背後,藏著新一波台廠商機

商業周刊

更新於 5小時前 • 發布於 8小時前 • 何佩珊

「你已經達到階段額度,請等到下午1點03分之後,重新計算。」你是否也在AI對話框看過相似的句子,而且出現的次數越來越頻繁?

這句話,不只是對個人AI用量的提醒,背後更藏著一套牽動著企業競爭力、AI硬體新商機、乃至中美AI模型大戰的「Token經濟學」。

Token,是AI模型運作的最小計價單位,你對AI說的每一句話、它回覆的每一個字,都會被拆解成一個又一個的Token來計費。訂閱制的AI模型多數都設有Token使用上限。

如今,這個大小約只有0.75個英文單字的單位,竟然成了可以撬動全球科技版圖、地緣政治的新槓桿。

先來看看過去半年,國內外企業「失控的AI帳單」。

首先是美國叫車巨頭Uber,今年不到4個月時間,它就燒光了原本編列一整年、用於編碼工具的AI預算。由於費用大幅超支,逼得它祭出限制,每位員工每個月,在每項AI工具最多只能花費1,500美元。

AI帳單成財報不可忽視費用

Token用量增速遠超成本下跌速度

爆量的帳單,引發一票原先積極鼓勵員工用AI的科技巨頭,紛紛踩煞車。

像社群網站龍頭Meta,已發出一份內部備忘錄,警告員工AI用量正呈現「指數級增加」;電商龍頭亞馬遜(Amazon),也悄悄撤下員工比拚AI用量的排行榜。

鏡頭轉到台灣,同樣的現象也在發生。

「前5大銀行這些業者,今年明顯感受到閉源模型的Token(使用量)已經爆量。」一名AI服務商高階主管指出,不只金融機構,包括國內許多傳產業者也開始憂心,公司可能會扛不住快速增加的AI成本。

而且真正的挑戰,恐怕還沒到。

一家台灣正全力開發AI代理人應用的大型金控業者估算,未來如果全流程都改由AI代理執行,屆時Token的用量,將可能較現在飆升「100倍」。

隨Token用量飆升而來的鉅額帳單,正在重擊企業的錢包。如今的AI,已不再是企業可以忽略的實驗支出,而是財報上具有存在感的費用。

弔詭的是,這波AI帳單的暴增,不是因為Token變貴了;實情是,它的每單位造價成本,反而比過去便宜。

過去3年來,在科技巨頭持續投入鉅資擴大算力與Token供給量的情況下,Token每單位成本其實是一路走跌。高盛證券指出,半導體供應商在推論成本上,每年能提供超過60%的成本降幅。

真正問題在於:Token使用量的飆升速度,遠超過Token每單位成本的下跌速度。

今年初以來,從龍蝦熱潮、到超強模型Claude Mythos,在在顯示AI的能力越來越強,並且變成能執行大小任務的「AI代理人」,它能幫你讀完信箱、整理試算表,也可以幫你接下一段程式碼、自主除錯好幾個小時。

過去,人類與AI一問一答,即使再頻繁,消耗Token量也有限;但在代理人運作的情境,AI收到指令後,會自己做邏輯推理、拆解任務、查資料、規畫計畫、執行,每一個步驟,都是在「燒Token」。

高盛更預估,到了2030年,每月Token用量將會比今年大增24倍之多。

戒不掉AI,讓許多企業尋找替代方案,採用成本較低的AI模型。

然而,這個企業原本只想省錢的行為,卻意外掀開一場中美AI競爭的新戰場。

美國最大加密貨幣交易所Coinbase,近期做的幾項實驗性調整之一,就是將內部的預設模型,改為中國AI商「智譜」及「月之暗面」開發的模型。

就連微軟(Microsoft),也傳出考慮把中國AI業者深度求索(DeepSeek)的V4模型,做為旗下AI產品Copilot Cowork的低價模型選項。

但回到最根本的問題,我們究竟為什麼要用AI?

多數人的初心都是解放勞務、提升生產力。但在這個AI費用飆升的新時代,不論是轉向中國模型或是本地部署,若都只著眼於成本,恐怕會落入AI生產力受限的陷阱。

如何讓每一次Token花費創造最大價值,是企業與個人在AI時代的新顯學。想在這個新學科拿高分,關鍵就是最根本的「AI素養」。過去,不論問題難度,人們總習慣用最新、最強的模型去解題,但這種做法,就像去走路僅需三分鐘的巷口超商,卻堅持開法拉利出門一樣浪費。

就企業而言,解方也是同一套邏輯。如果員工在使用AI、燒Token之前,先釐清每項業務真正的需求,接著,再依複雜度、精準度、成本,為每項任務搭配最合適的AI模型,自然就可以用最少Token、創造最大價值。

※更多精彩報導,詳見《商業周刊》網站。
※本文由商業周刊授權刊載,未經同意禁止轉載。

延伸閱讀:

查看原始文章

更多理財相關文章

01

台積電董座魏哲家宣布加碼1000億美元!投資美國亞歷桑那半導體晶圓廠

民視新聞網
02

股市震盪散戶頻翻車!今年以來上市櫃違約交割災情擴大累計達20件

anue鉅亨網
03

有一種報恩叫黃仁勳!親赴東京緊抱30年前恩人 再送SEGA合作大禮

鏡報
04

新青安3.0重點懶人包:5大條件更新 婚育補助最高可貸1500萬

anue鉅亨網
05

〈台積電法說〉Q2雙率再超標、EPS 27.25元同創高 上半年大賺近5個股本

anue鉅亨網
06

【台積電法說】再度上調資本支出600億~640億美元!全年營收成長率升至逾40%

太報
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...