請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

AI開始變貴了!Uber、微軟、台灣金融業帳單失控背後,藏著新一波台廠商機

商業周刊

更新於 07月16日03:35 • 發布於 07月16日01:00 • 何佩珊

「你已經達到階段額度,請等到下午1點03分之後,重新計算。」你是否也在AI對話框看過相似的句子,而且出現的次數越來越頻繁?

這句話,不只是對個人AI用量的提醒,背後更藏著一套牽動著企業競爭力、AI硬體新商機、乃至中美AI模型大戰的「Token經濟學」。

Token,是AI模型運作的最小計價單位,你對AI說的每一句話、它回覆的每一個字,都會被拆解成一個又一個的Token來計費。訂閱制的AI模型多數都設有Token使用上限。

如今,這個大小約只有0.75個英文單字的單位,竟然成了可以撬動全球科技版圖、地緣政治的新槓桿。

先來看看過去半年,國內外企業「失控的AI帳單」。

首先是美國叫車巨頭Uber,今年不到4個月時間,它就燒光了原本編列一整年、用於編碼工具的AI預算。由於費用大幅超支,逼得它祭出限制,每位員工每個月,在每項AI工具最多只能花費1,500美元。

AI帳單成財報不可忽視費用

Token用量增速遠超成本下跌速度

爆量的帳單,引發一票原先積極鼓勵員工用AI的科技巨頭,紛紛踩煞車。

像社群網站龍頭Meta,已發出一份內部備忘錄,警告員工AI用量正呈現「指數級增加」;電商龍頭亞馬遜(Amazon),也悄悄撤下員工比拚AI用量的排行榜。

鏡頭轉到台灣,同樣的現象也在發生。

「前5大銀行這些業者,今年明顯感受到閉源模型的Token(使用量)已經爆量。」一名AI服務商高階主管指出,不只金融機構,包括國內許多傳產業者也開始憂心,公司可能會扛不住快速增加的AI成本。

而且真正的挑戰,恐怕還沒到。

一家台灣正全力開發AI代理人應用的大型金控業者估算,未來如果全流程都改由AI代理執行,屆時Token的用量,將可能較現在飆升「100倍」。

隨Token用量飆升而來的鉅額帳單,正在重擊企業的錢包。如今的AI,已不再是企業可以忽略的實驗支出,而是財報上具有存在感的費用。

弔詭的是,這波AI帳單的暴增,不是因為Token變貴了;實情是,它的每單位造價成本,反而比過去便宜。

過去3年來,在科技巨頭持續投入鉅資擴大算力與Token供給量的情況下,Token每單位成本其實是一路走跌。高盛證券指出,半導體供應商在推論成本上,每年能提供超過60%的成本降幅。

真正問題在於:Token使用量的飆升速度,遠超過Token每單位成本的下跌速度。

今年初以來,從龍蝦熱潮、到超強模型Claude Mythos,在在顯示AI的能力越來越強,並且變成能執行大小任務的「AI代理人」,它能幫你讀完信箱、整理試算表,也可以幫你接下一段程式碼、自主除錯好幾個小時。

過去,人類與AI一問一答,即使再頻繁,消耗Token量也有限;但在代理人運作的情境,AI收到指令後,會自己做邏輯推理、拆解任務、查資料、規畫計畫、執行,每一個步驟,都是在「燒Token」。

高盛更預估,到了2030年,每月Token用量將會比今年大增24倍之多。

戒不掉AI,讓許多企業尋找替代方案,採用成本較低的AI模型。

然而,這個企業原本只想省錢的行為,卻意外掀開一場中美AI競爭的新戰場。

美國最大加密貨幣交易所Coinbase,近期做的幾項實驗性調整之一,就是將內部的預設模型,改為中國AI商「智譜」及「月之暗面」開發的模型。

就連微軟(Microsoft),也傳出考慮把中國AI業者深度求索(DeepSeek)的V4模型,做為旗下AI產品Copilot Cowork的低價模型選項。

但回到最根本的問題,我們究竟為什麼要用AI?

多數人的初心都是解放勞務、提升生產力。但在這個AI費用飆升的新時代,不論是轉向中國模型或是本地部署,若都只著眼於成本,恐怕會落入AI生產力受限的陷阱。

如何讓每一次Token花費創造最大價值,是企業與個人在AI時代的新顯學。想在這個新學科拿高分,關鍵就是最根本的「AI素養」。過去,不論問題難度,人們總習慣用最新、最強的模型去解題,但這種做法,就像去走路僅需三分鐘的巷口超商,卻堅持開法拉利出門一樣浪費。

就企業而言,解方也是同一套邏輯。如果員工在使用AI、燒Token之前,先釐清每項業務真正的需求,接著,再依複雜度、精準度、成本,為每項任務搭配最合適的AI模型,自然就可以用最少Token、創造最大價值。

※更多精彩報導,詳見《商業周刊》網站。
※本文由商業周刊授權刊載,未經同意禁止轉載。

延伸閱讀:

查看原始文章

更多理財相關文章

01

頭家開講/年產400萬個警報器 他堅持百分百防干擾 安防歐洲博物館也採用  大鵬科技董事長張再發

鏡週刊
02

5張千萬發票沒人領!明到期就充公 消費地點、金額曝光

三立新聞網
03

國保新制1/繳多年國保「3筆全領不到」!新制上路 65歲免申請仍要做1件事

鏡週刊
04

41歲男擁2000萬爽退休天天在家 女兒1句話讓他尷尬了

自由電子報
05

哲哲突喊「週一出清股票」?投資人急查真相:差點信了

民視新聞網
06

獨家/1克拉鑽石「8年跌11萬元」 女嘆:28萬鑽戒賣不掉

EBC 東森新聞
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...