OpenAI 大砍 Codex 上下文視窗 27% 企業 AI 程式開發流程面臨挑戰

商傳媒｜責任編輯／綜合外電報導

人工智慧公司 OpenAI 近日悄然將旗下 AI 程式開發工具 Codex 中，GPT-5.6 模型預設的輸入上下文視窗（Context Window）從 372,000 Token 大幅縮減至 272,000 Token，縮幅高達 27%。此變動是在 GitHub 的一個拉取請求（pull request）中被發現，隨後有開發者在 Reddit 和 X（前身為 Twitter）等平台上提出質疑，因為 OpenAI 並未針對此一重大調整提供任何解釋。

上下文視窗，意指 AI 模型一次性能夠處理的資訊量。Token 則是 AI 模型處理文本的基本單位，可以是字、詞或字符片段。這次縮減引發開發者的普遍擔憂，認為較小的上下文視窗將導致 Codex 更早地壓縮對話歷史，進而可能遺失早期的邏輯推論。研究顯示，在長上下文模型中存在一種「中間遺失」（lost in the middle）效應，即輸入內容中間部分的資訊較易被忽略，導致準確度大幅下降逾 30%，且問題在達到宣稱的限制之前就可能發生。

專家將此現象稱為 AI 程式代理中的「上下文腐爛」（context rot），意指 AI 代理的性能在沒有明確錯誤提示的情況下逐漸下降，可能導致舊有錯誤重新出現或邏輯矛盾。The Futurum Group 負責軟體生命週期工程與 AI 原生軟體工程的副總裁 Mitch Ashley 指出，管理上下文視窗預算對開發者而言，是攸關品質、可靠性和生產力的實際問題。他表示：「當團隊使用 Codex 處理大型程式碼庫時，會更早碰到資料壓縮，而每次壓縮都可能讓 AI 代理遺漏掉已解決的限制條件。」

這項變動對例行性任務、錯誤修復、小型功能開發或單一檔案修改的影響預期不大。然而，對於需要處理大型程式碼庫、耗時較長的自主程式開發工作（AI 程式代理的預期用途）而言，將會帶來顯著影響。企業若依賴固定上下文預算來建構工作流程，將面臨供應商調整限制時可能產生的問題。這突顯了圍繞 AI 程式代理所建構工具，其韌性（resilience）不足之處。

為因應此類變動，專家建議企業應採取更具持久性的策略。這包括將大型任務拆解為更小、界限明確的工作單位，並採用檢索（retrieval）機制，讓 AI 代理在需要時才從相關程式碼和文件中動態獲取資訊。Mitch Ashley 認為，這次 Codex 上下文視窗的縮減，正是業者意識到市場正朝向多代理工作流程（multi-agent workflows）發展，每個代理皆以更窄、更精準的上下文範圍運作的趨勢。他建議企業重新審視現有假設，並規劃多代理、窄上下文的設計，而非僅依賴單一大型上下文視窗。