請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

ChatGPT額度不夠怎麼辦?我改用輕量模型反而更累!5個判斷教你選對AI模型

數位時代

更新於 09月23日06:20 • 發布於 09月23日06:20 • 韋惟珊

最近為了一天一AI PRO 上線,有好多事情要做,我常常 AI token 不夠,有夠想加價升級。

跟工程師聊起來,他卻說「怎麼可能?」他用 AI 處理幾萬篇文章分類與重組,也沒遇到這個問題。結果發現:同樣都用 ChatGPT,模型我都選 Sol,他都是用最省的 Luna。

他的想法是,模型沒那麼聰明也沒關係,只要工作講得夠清楚,慢慢跟它說,它還是可以做好,總比額度用完、工作做到一半被迫下課好吧!

好像有道理?

結果我回家一試,發現額度省了,我卻更累了!!它開始犯錯,連原本用得好好的 Skill,也冒出不少需要補充的地方,補一補之後,才能穩定上工。

我從這次經驗,總結了選模型的關鍵,整理成圖卡給你。

如果你也常常用到額度不夠,可以拿一件熟悉的工作來試試看。

覺得實用?歡迎點此連結跟我分享心得。想知道一天一AI PRO 設計的 AI 工作流?點此查看吧。

AI模型怎麼選?工作量大,不代表一定要用最強模型

工作量很大,不代表一定需要強模型

從幾萬篇文章擷取日期和作者,可以重複同一套規則,但寫一頁產品介紹,卻可能要判斷賣給誰、主打項目、哪些承諾不能說。因此選模型前,不能只看輸出和輸入量,要先問這件工作裡,還有多少地方需要模型自己判斷?有固定步驟、有範例、格式明確、結果容易核對的工作,才比較適合先試輕量模型。

換成輕量模型一直出錯?問題可能藏在你的Skill裡

Skill 跑得順,可能有模型在補洞

比如從大量新聞「挑出重要資訊」,看起來是一條規則,但重要的標準是跟主題最相關?最影響決策?如果這些都沒寫,能力強的模型可能自己補上判斷。一換成輕量模型,問題才突然出現。所以換模型也可以是一種 Skill 壓力測試:哪些真的是規則,哪些只是模型以前剛好猜對?

哪些工作適合輕量模型?先看任務是否「規則明確」

什麼工作,可以先試輕量模型?

OpenAI 七月舉的例子是:Sol 釐清問題、制定計畫,Luna 執行明確的工作。我現在會先找這幾種工作:步驟固定、有範例可以對照、輸出格式明確。例如整理欄位、分類、轉格式、依規則擷取資訊,都可以先測試。但如果還要釐清方向、處理矛盾、做取捨,或連你自己都還不知道「怎樣才算好」,就先別急著降模型。

輕量模型真的比較省?別忘了把修正時間算進成本

省了額度,卻多花時間教?也要算進去

換模型跑同一件工作時,我會多觀察兩件事:修正幾次?花多少時間?如果只是漏寫規則,補完之後就明顯改善,就表示可以維護。但如果要求已經寫清楚,模型還是反覆做錯同一件事,就要考慮拆小任務,或換能力更強的模型。

AI工作該用強模型還是輕量模型?關鍵是「錯了能不能發現」

不要問「能不能做」,要問「錯了你看得出來嗎?」

輕量模型偶爾做對一次,不代表這項工作就適合交給它。更應該看的是,當它做錯時,我能不能很快發現?格式、欄位、分類這類工作,通常比較容易驗收,但策略好不好、語氣自不自然,就比較難靠一眼確認。越容易驗證的工作,越適合先試輕量模型,如果結果很難驗收,都會變成你檢查時的負擔。

訂閱《一天一AI》日報,每天跟你分享超實用的AI小技巧!

延伸閱讀:
AI老是犯同樣的錯?把你的修改變成「規則檔」,讓它下一次直接記住

提示詞別把步驟寫死!MIT研究揭限制太多反而變笨,「產業情報雷達」找出真正有用的情報

「加入《數位時代》LINE好友,科技新聞不漏接」

查看原始文章

更多理財相關文章

01

乖乖無限期罷工登外媒!被封「台灣晶片護身符」 網驚:半導體工廠浩劫

三立新聞網
02

工會喊無期限罷工 乖乖公司給4承諾:2年內絕不裁員

CTWANT
03

月薪3萬怎扛7萬房貸?全台低薪房貸族創10年新低...北市低薪族買房,靠「富爸媽」、「雙薪」撐腰

今周刊
04

Nike 財測不妙 製鞋代工廠 全面備戰

經濟日報
05

頭家開講/爆品熬經典 台灣奇士美總經理李琳媛

鏡週刊
06

AI 巨頭白宮閉門會議爆交鋒,黃仁勳當面質疑 Anthropic 執行長「危言聳聽」

科技新報
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...