60% 企業部署未測試 AI 程式碼：Agentic AI 讓 Coding 變快，為何反而讓軟體治理失控？
金融 AI 公司 Clifton AI 的 CTO 暨共同創辦人 Joe Bertolami 近日在《VentureBeat》撰文指出，Agentic AI 已成為軟體開發流程的核心引擎，讓企業能以前所未有的速度生成更多程式碼。然而，這也讓企業領導者面臨一道新難題：既然寫 Code 的速度變快了，為什麼產品改善的腳步卻沒有同步跟上？
Joe Bertolami 點出核心盲點：因為「寫程式」從來就不是軟體開發的真正瓶頸，相較之下，需求定義、複雜系統整合，以及在真實環境下的軟體維護，才是更困難的部分。當企業只顧著利用 AI 追求開發速度，卻缺乏相對應的治理配套時，隨之而來的，將是三大系統性失控危機。
危機一：AI Coding 暴增壓垮人工審查，引發「未測試程式碼」氾濫風險
首當其衝的挑戰，是程式碼數量暴增讓「人類審查」成為新瓶頸，因為工程師在龐大的程式碼中，可能缺乏足夠上下文，進而無法抓出 AI Agent 犯下的錯誤。
這個現象已在業界造成嚴重影響。根據 Tricentis 發布的《2026 Quality Transformation Report》，AI 在軟體開發中的普及，已導致全球高達 60% 的組織將未經測試的程式碼部署到生產環境中。其中，有 32% 的組織承認是「明知未經測試仍執意部署」，主因是高層施壓要求速度優先於品質；另有 30% 的組織則表示，AI 生成的程式碼數量過於龐大，已經壓垮既有的品管與測試流程。
面對這些失控現象，Tricentis 執行長 Kevin Thompson 指出：「加速業務轉型計畫是當今高階主管的首要任務之一，AI 具備幫助軟體開發團隊以史無前例速度前進的潛力。」但他同時強烈警告：「然而，速度加快也帶來風險增加，當軟體品質流程無法跟上開發速度時，企業組織通常會採取走捷徑的方式來應對，這將損害信任度。」
危機二：別讓 AI Agent 繼承工程師權限，否則系統將出現責任漏洞
為了防堵品質下滑與系統風險，企業必須正視 AI 的治理與權限問題。Joe Bertolami 建議，企業應將 AI 治理視為一級風險（tier-one risk）。如果放任團隊在缺乏集中式架構的情況下自由導入 AI，將導致流程碎片化、重複做白工，甚至使成本徹底失控。
他特別提醒，企業絕不能讓 AI Agent 直接繼承人類操作員的完整權限。因為人類工程師擁有對上下文的判斷力並能承擔最終責任，但如果讓 AI Agent 擁有同等權限，將會在系統中製造出嚴重的「責任漏洞」。因此，企業必須實施嚴格的讀取、寫入與執行權限分離，並在執行具破壞性或會改變生產環境的操作前，強制設置人類審核把關機制。
危機三：預算無底洞與過時的 KPI 指標
除了技術風險，盲目追求 AI 產出也帶來巨大的財務隱憂。Joe Bertolami 強調，企業必須透過配額與速率限制來嚴格控管生產環境中的 AI 預算，以避免 Agentic AI 支出失控。他舉例指出，Uber 就曾因為在 2026 年 4 月前就燒光全年的 AI 預算，而不得不祭出限制令；據《Axios》報導，甚至有一家未具名的公司，因為 Agentic Loop 失控，單月就產生了高達 5 億美元的 Anthropic 帳單。
為了把預算花在刀口上，Joe Bertolami 建議企業應把 AI 視為工程槓桿，付費使用品質最高的「前沿模型」以減少重工，因為最低的 Token 單價往往不是最能將效率最大化的選擇。
在這樣的背景下，傳統衡量工程師產出的 KPI 已經完全失效。Joe Bertolami 主張，軟體部署數、程式碼行數與程式碼合併請求數量，從來都不是好的生產力指標，在 AI 時代，這些指標甚至會產生嚴重的誤導。因此，Joe Bertolami 建議企業應該改為追蹤與「商業成果」及「軟體工程耐久性」相關的指標，例如：功能採用率、留存率、變更失敗率、流入生產環境後才被發現的缺陷、程式碼存活時間、每美元任務成功率以及重工時間等。同時，企業也必須重新定義績效與獎勵機制，不只看產出數量，而是要獎勵那些能創造更高層次商業影響力，以及維持跨系統可靠性的工程人員。
AI 是工程判斷的放大器，而非替代品
如果企業無法有效管理上述三大危機，代價將十分高昂。《2026 Quality Transformation Report》揭露，約有五分之一的組織每年因為軟體品質問題，損失超過 100 萬美元，這些損失主要來自安全與合規失敗、技術債與重工。對此，Tricentis 執行長 Kevin Thompson 呼籲：「隨著財務表現和客戶信任等風險變得更加清晰、可衡量，軟體品質必須成為董事會的首要任務。」
面對這波 AI 程式碼浪潮，Joe Bertolami 提醒企業必須重新調整人力資本，將工程師從單純的「語法撰寫者」（syntax-writers）轉型為「系統思考者與 Agent 管理者」（systems-thinkers and agent-managers）。他也警告企業，在調整好策略與衡量標準前，切勿盲目裁員，因為真正的目標不是一味縮編人數，而是讓團隊有能力涵蓋更廣泛的戰略層面。
「AI 不是工程判斷的替代品，而是工程判斷的放大器，」Joe Bertolami 強調，在結構良好的系統中，AI 能安全地加速交付流程，但在理解不足的系統中，AI 只會加速失敗的發生。因此，這波 Agentic AI 導入的真正考驗，在於企業有沒有能力同步管理好程式碼的審查、系統權限、暴增的成本與最終的軟體品質。
【推薦閱讀】
◆ 只有 26% 受訪企業知道自己的 AI 花多少錢：Token 計費時代，企業新管理難題浮現
◆ 生產設備 20 年沒升級成工廠大隱患：AI 讓製造業現代化從高風險改造，變成可量化投資
◆ AI 讓個人生產力大爆發，為何企業 ROI 仍看不見？關鍵在決策流程重組
＊本文開放合作夥伴轉載，資料來源：《VentureBeat》、《ITPro》，首圖來源：Unsplash