請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

AI一夜燒光幾十萬!看懂黃仁勳揭密的「Token經濟」:3招聰明省算力不花冤枉錢 【8分鐘看懂天下】Ep.95

16 觀看次數

到YouTube頻道看更多《8分鐘看懂天下》【立即前往
AI已成為現代工作不可或缺的幫手,但隨著代理式AI崛起與高階模型迎來漲價潮,企業與個人正面臨「天價算力帳單」的挑戰。輝達執行長黃仁勳點出「Token」是AI時代最新的大宗商品,甚至能決定企業營收。為何許多大企業卻急著將AI用量從極大化轉為極小化?我們該如何精打細算,聰明駕馭AI而不花冤枉錢?

【8分鐘看懂】
1.AI時代最夯的關鍵字「Token」到底是什麼?為何黃仁勳說是新大宗商品?
Token是AI模型計價與計算工作量的基礎單位,不管是輸入問題、上傳圖片或讓AI思考生成內容,都是以Token計算。隨著能自主規劃任務的「代理式AI」普及,Token消耗量呈爆發式成長,加上頂尖模型與雲端算力陸續喊漲,Token使用效率已成為AI產業獲利與企業營收的關鍵。

2.AI用量失控燒光預算?為何大企業裁員後又默默把人找回來?
不少企業因未設定好AI指令而一夜燒掉數十萬Token,甚至數月用光全年預算。更慘的是,福特汽車與澳洲聯邦銀行等企業曾大規模裁員導入AI,卻發現AI成本遠比想像中高,且缺乏同理心與除錯能力,最終55%主管承認因AI裁員是錯誤決定,紛紛重新聘回員工。

3.面對「AI好用但也好貴」的現實,企業與個人如何聰明佈局省算力?
專家建議採取「殺雞焉用牛刀」的原則:高精準度需求選高價模型,創作類任務則用便宜模型搭配人工把關。實務上可善用「模型路由」、限制輸出字數、以高階AI規劃再交由低階AI執行的分工模式,並評估雲端算力優勢,將Token效能拉到最高。

【各段重點】
00:00 一夜燒光幾十萬?AI時代最貴關鍵字「Token」崛起
01:08 什麼是 Token?看懂黃仁勳說的 AI 時代新大宗商品
03:13 高檔 AI 喊漲!燒光千萬預算,矽谷狂省 Token 的真相
04:45 買 Token 比請人貴?大企業後悔裁員悄悄把人找回來
06:57 殺雞不要用牛刀!模型路由與高低階 AI 分工省錢撇步

天下雜誌 video

發布於 18小時前 • 天下雜誌

自動播放下一則

Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...