請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

你的AI越聊越笨?專家揭7種「上下文腐爛」徵兆:何時該開新對話,高效激發AI內容?

數位時代

更新於 16小時前 • 發布於 16小時前 • 李先泰

ChatGPT要一直開新對話嗎?如果換了任務,或發現AI反覆犯錯、忽略要求,就可以考慮重開。長對話累積的舊指令、早期錯誤與無關細節,可能干擾後續回答,這類問題被稱為「上下文腐爛」(context rot)。

美國科技媒體《Every》的AI評測主管Mike Taylor,每換一個任務就開新對話,甚至關閉了ChatGPT與Claude的記憶功能。他認為,舊資訊可能拖累新任務的表現。如果需要延續工作進度,可以先請AI整理重要事實、已做的決定與下一步,確認內容正確後,再帶進新對話。

Taylor在2026年10月17日的專欄中,將新書《Context Engineering with DSPy》整理的7種上下文問題,轉化成一般使用者能辨認的徵兆。以下整理AI為什麼愈聊愈不準、什麼情況適合開新對話,以及如何保留工作進度。

ChatGPT為什麼愈聊愈不準?舊指令與錯誤會干擾回答

1. 上下文干擾(context distraction):舊範例框住新答案

Taylor常在AI培訓課上示範:請ChatGPT用賈伯斯(Steve Jobs)的風格替新產品取名。只給文字指示時,21%的名字以「i」開頭(如iPod、iPhone);再附上幾個i開頭的範例,比例就變成100%。長對話也一樣,前面做過的東西都會變成AI照著走的範例。

徵兆:你要求換方向,AI的建議還是照舊範例的套路。

對策:任務的語氣或類型一變,就開新對話。

2. 上下文衝突(context clash):早期假設卡住新資訊

微軟(Microsoft)與Salesforce的研究人員在2025年做過實驗:把原本一次交代完的指令,拆成好幾則訊息分批給AI,模擬一般人邊聊邊補充的習慣。結果在寫程式、做摘要等6類任務中,受測模型的表現平均下滑39%。AI常在資訊還不完整時就先猜答案,這個答案會跟你後來補充的內容打架。

徵兆:你補充說明了,AI還是沿著先前的假設做。

對策:Taylor建議把需求一次講完,全部放進第一則訊息;中途發現漏了,就帶著完整需求開新對話。

3. 上下文中毒(context poisoning):一個錯誤污染後續回答

Google的Gemini 2.5技術報告就描述過這種現象:Gemini 2.5 Pro玩《精靈寶可夢 藍》時,誤以為要拿到只有重製版才有的道具「TEA」才能通過守衛,花了許多個小時找一個不存在的東西。聊天時,AI早期記錯一個事實,之後每版草稿也會照抄。

徵兆:已經更正過的錯誤,又出現在下一版。

對策:Taylor建議不要在同一個對話裡跟AI爭論,因為錯誤和你的抱怨都還留在紀錄裡。不如回頭編輯出錯之前的那則訊息,或重新生成回答。他打了個比方:AI看到紀錄裡有錯,會以為自己在演「一個會犯錯的AI」。

ChatGPT對話太長有哪些徵兆?漏看重點、忽略要求要留意

4. 上下文混淆(context confusion):無關細節左右回答

AI不太會略過無關資訊,只要寫在指令裡,它就當成有用意、設法用上。Taylor的同事Katie Parrott把給AI的寫作風格指南,從759個英文單字加長到3,855個,結果文章糟到認不出來,一篇改了127版。最後的解法是刪指令,新版只剩513個單字。

徵兆:AI一直扯到跟問題無關的事實、偏好或框架。

對策:Taylor的做法是關閉記憶功能,自訂指令(custom instructions,每次對話自動帶入的設定)也愈精簡愈好。

5. 上下文忽略(context neglect):中間的細節被跳過

史丹佛大學等研究人員2023年的論文〈Lost in the Middle〉發現,受測模型最記得住開頭和結尾的內容,關鍵資訊如果夾在中間,表現就明顯變差。Taylor也做過實驗:給AI看9份專案文件,把關鍵的錯誤回報放在第6份,再問專案有什麼風險,AI完全沒提到它。

徵兆:其他文件都引用對了,偏偏漏掉夾在中間的關鍵細節。

對策:只上傳需要的文件,不同文件的問題分開在不同對話問;重要資訊放在訊息最前面。

6. 上下文漂移(context drift):原始目標逐漸失焦

對話拉長後,AI的回答仍然通順,卻慢慢不照你一開始的要求做。Taylor舉例,開頭要求寫程式的AI嚴格遵守Python的程式碼風格規範PEP-8,聊了50則訊息後,它已完全不理。日常使用也常見,要求回答在200個字以內,一小時後又變回原本的長度。

徵兆:AI開始忽略你先前交代的規則。

對策:把固定偏好(拼字、語氣、長度)存成文件,每次開新對話就貼在最前面。Taylor也提醒,對話太長時,Claude與Codex會自動壓縮前面的內容,細節和重要指令可能就此不見。

ChatGPT開新對話如何保留進度?先整理交接資訊

7. 上下文不足(context underspecification):缺資訊逼AI用猜的

前6種都是資訊太多,太少同樣會出問題。缺了關鍵資訊,AI只能猜,Taylor形容猜出來的是訓練資料的「平均值」,也就是不考慮你處境的通用建議。他經營過50人規模的行銷代理商,知道「價值定價」(依客戶獲得的價值收費)對代理商常常行不通,AI卻一再推薦。

徵兆:回答套在誰身上都說得通。

對策:長對話累積了有用的資訊、卻開始出現上述徵兆時,先請AI寫一份交接文件,整理重要事實、已做的決定和下一步,再帶進新對話。離開前也可以問AI:

這個任務一開始,有哪些資訊如果先知道,就能省掉好幾個步驟或避開錯誤?

把回答裡錯誤或過時的部分刪掉,再貼進新對話。

長期來看,Taylor把常用指令存成Markdown檔、放在GitHub上,讓AI需要時再讀,開新對話時直接拿來用。他在文末寫道,AI不會因為你重開15次而不耐煩,也不會提醒你對話已經一團亂,回答只會默默變差。每次都開新對話,他就能確定AI手上只有自己給的資料。

延伸閱讀:AI只花4小時就做出爆紅遊戲!「80億分之1」模擬人生:如果重新出生,你會在哪個國家?

資料來源:《Every》、Lost in the Middle論文、LLMs Get Lost In Multi-Turn Conversation論文、Google Gemini 2.5技術報告

本文初稿為AI編撰,整理.編輯/ 李先泰

「加入《數位時代》LINE好友,科技新聞不漏接」

查看原始文章

更多理財相關文章

01

文組機會來了!輝達在台招聘「政府事務總監」 須具備15年官方實務經驗

鏡週刊
02

11個月蒸發1.8億元!他50張台積電沒了…專家揭3致命警訊

民視新聞網
03

AI巨頭瘋狂掃書,台灣也是供應來源!563公噸書籍運美,揭開Anthropic神祕「巴拿馬計畫」

數位時代
04

快訊/宣佈了! 美光罷工就在這天

三立新聞網
05

增2檔抓去關!「這檔」6天漲35% 慘受25分鐘撮合

三立新聞網
06

別被外資騙了!「多頭總司令」張錫:估台積電後年股價奔5千 台股將站上七萬

太報
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...