為了省AI額度，我把Sol換成Luna，結果更累了！什麼工作適合「降模型」？
早安呀！最近為了一天一AI PRO 上線，有好多事情要做，我常常AI token不夠，有夠想加價升級。
跟工程師聊起來，他卻說「怎麼可能？」他用AI處理幾萬篇文章分類與重組，也沒遇到這個問題。結果發現：同樣都用ChatGPT，模型我都選Sol，他都是用最省的Luna。
他的想法是，模型沒那麼聰明也沒關係，只要工作講得夠清楚，慢慢跟它說，它還是可以做好，總比額度用完、工作做到一半被迫下課好吧！
好像有道理？
結果我回家一試，發現額度省了，我卻更累了！！它開始犯錯，連原本用得好好的Skill，也冒出不少需要補充的地方，補一補之後，才能穩定上工。
我從這次經驗，總結了選模型的關鍵，整理成圖卡給你。
如果你也常常用到額度不夠，可以拿一件熟悉的工作來試試看。
覺得實用？歡迎點此連結跟我分享心得。想知道一天一AI PRO 設計的 AI 工作流？點此查看吧。
ChatGPT模型怎麼選？工作量大，不代表一定要用最強模型
從幾萬篇文章擷取日期和作者，可以重複同一套規則；但寫一頁產品介紹，卻可能要判斷賣給誰、主打項目，以及哪些承諾不能說。
所以選AI模型前，不能只看輸入和輸出量，而是要先問：這件工作裡，還有多少地方需要模型自己判斷？
有固定步驟、有範例、格式明確，而且結果容易核對的工作，才比較適合先試輕量模型。反過來說，如果工作中還有很多需要AI自己判斷、取捨的地方，就不一定適合為了省額度直接降模型。
換成輕量模型一直出錯？可能是Skill原本就有漏洞
我原本以為，只要同一套Skill換成Luna執行，頂多只是能力差一點。實際測試後才發現，原本跑得很順的Skill，可能只是因為強模型一直在幫你「補洞」。
例如，要求AI從大量新聞中「挑出重要資訊」，看起來像是一條明確規則，但「重要」到底是跟主題最相關？最影響決策？如果這些標準都沒有寫清楚，能力強的模型可能會自己補上判斷。
一換成輕量模型，原本藏著的問題才突然跑出來。
所以換模型其實也可以是一種Skill壓力測試：哪些真的是寫清楚的規則？哪些只是模型以前剛好猜對？
哪些工作適合用輕量模型？固定步驟、格式明確可以先試
OpenAI七月舉的例子是：Sol負責釐清問題、制定計畫，Luna則執行明確的工作。
我現在也會先找幾種工作來測試輕量模型，包括步驟固定、有範例可以對照，以及輸出格式明確的任務。
例如整理欄位、分類、轉格式、依規則擷取資訊，都可以先測試。
但如果工作還需要釐清方向、處理矛盾、做取捨，甚至連你自己都還不知道「怎樣才算好」，就先別急著降模型。
換模型真的比較省？別忘了把修正時間算進去
不過，模型變便宜、額度用得比較少，不代表整體成本真的比較低。
換模型跑同一件工作時，我會多觀察兩件事：修正幾次？花多少時間？
如果只是漏寫規則，補完之後就明顯改善，就表示這套工作流程還可以繼續維護。但如果要求已經寫得很清楚，模型還是反覆做錯同一件事，就要考慮把任務拆小，或直接換能力更強的模型。
不然最後雖然省下額度，卻把更多時間花在來回修正上。
輕量模型能不能用？關鍵是「做錯了，你看得出來嗎？」
最後，我現在不太會只問：「這個工作Luna能不能做？」
因為輕量模型偶爾做對一次，不代表這項工作就真的適合交給它。更重要的問題其實是：當它做錯時，我能不能很快發現？
格式、欄位、分類這類工作，通常比較容易驗收；但策略好不好、語氣自不自然，就比較難靠一眼確認。
越容易驗證的工作，越適合先試輕量模型。反過來說，如果結果本來就很難驗收，就算模型真的能做，也可能把成本轉移到你後續的檢查上。
訂閱《一天一AI》日報，每天跟你分享超實用的AI小技巧！
延伸閱讀：
AI老是犯同樣的錯？把你的修改變成「規則檔」，讓它下一次直接記住