【零信任程式碼】企業資安別問能不能攔截，先問這段程式碼該不該被允許執行
自古以來，資安規則幾乎都是圍繞著人類所設計，畢竟以往的程式皆是由人類所撰寫、審查與實地部署。如今，人工智慧正逐漸接管這些工作，比方說於近期發表的論文中，AI 巨頭 Anthropic 就指出，公司內部超過 80% 部署到正式環境的程式碼，其實都是由旗下的 AI 模型 Claude 所撰寫。
AI 崛起不只提升開發人員的生產力與技術力，更改變了當代資安攻擊的運作模式，促使企業不得不重新思考，現有的資安防禦策略是否足夠，同時期待儘快做出應對與改變，並且進一步走向「零信任程式碼」。
傳統資安工作流程徹底失效
美國資安公司 CodeHunter 執行長 Ken Ammon 分析，雖然人類依然是資安攻擊目標的決定者，但 AI 卻能夠生成攻擊酬載（payload）、快速測試不同變體、根據不同環境調整程式碼，並且以現行安全防護機制無法匹敵的速度，重複執行攻擊流程。
Ken Ammon 認為，現今大多數企業軟體的安全工作流程，其實都是預先假設資安團隊有足夠時間，針對軟體進行各種審查，即程式碼得經過撰寫、掃描、測試、核准，最後才能實地部署。
若事後發生可疑情況，企業資安團隊便會深入調查並採取應對措施，然而在 AI 時代的開發速度下，一套軟體從「提示詞」變成「可執行程式」的時間，很可能被縮短成「數分鐘」，此時傳統的資安工作流程便會徹底失效。
知道軟體來源，不足以判斷威脅
由人工智慧生成的程式碼，幾乎可以立即轉化成腳本、依賴項、自動化工作流程，甚至讓軟體基礎架構發生改變，若再進一步運用 AI 代理，還可以修改檔案、解析套件與執行指令，而這一切過程都不需要人類參與、介入。
反過來說，攻擊者也可以利用相同的機制，快速生成漏洞利用程式、測試規避技術，並針對不同目標調整惡意攻擊酬載行為，進而製造更多變體，使防禦方無法穩定辨識出威脅。
因此，當惡意攻擊手段不斷高速變化，若企業資安團隊在風險判定上，依舊像過去一樣給出「或許可疑」等模稜兩可的說法，本質上已經不再足夠。
此外，雖然軟體供應鏈的安全性已經有所提升，但 Ken Ammon 表示，其中大部分仍只是在執行前進行驗證，而非對執行過程本身進行管控。
包含軟體組件清單（SBOM）、數位簽章與來源追溯等方式，雖然讓資安團隊能夠更確信程式碼的組成、來源與建構歷史，但只知道軟體的來源，並不能分析出其在執行時會產生何種行為。
換句話說，即使是透過正規流程製作的軟體，也可能在執行時違反政策；就算程式通過了每一項檢查，仍舊可能造成風險；至於 AI 生成的腳本，即便完成了預定任務，其執行方式也可能導致資料或系統外洩。
AI 生成惡意軟體，仍需跟環境互動
Ken Ammon 說，當今的 AI 技術，已經能夠自動化偵察、加速挖掘漏洞、生成並利用程式碼、重寫有效攻擊酬載，並根據目標環境調整指令序列，然而大多數企業的資安防禦措施，卻仍然是針對人類限制所設計。
然而，由 AI 製作的惡意軟體，依舊必須跟目標環境進行互動，才能達成其攻擊目的，所以在行為方面並無法隱藏自身意圖。
因此，偵測與應對依然重要，但 Ken Ammon 直言，這些措施應該是在風險已經進入環境之後才介入，畢竟當可疑行為顯現時，軟體可能早已存取了機密資訊、變更了系統狀態、建立起網路連線，甚至直接部署持久化的攻擊機制。
重新提問原則，調整安全關卡位置
Ken Ammon 說，AI 縮短了防禦方的反應時間窗口，若企業資安團隊只是單純等待軟體執行後產生的證據，將會給攻擊者過多的操作空間。
因此，企業資安團隊需要將決策的時間點向前移，與其問「如果這套軟體行為異常，我們能否加以遏制」，資安團隊不如問「這套軟體的某種行為，是否該從一開始就被允許執行？」。
Ken Ammon 強調，問題改變並非意味著企業該取代現有的控制措施，而是要調整重要安全關卡的部署位置。
Ken Ammon 認為，所謂「零信任（Zero Trust）」透過摒棄隱性信任，徹底改變了企業資安模式，所以在軟體執行與程式碼部署情境，企業資安團隊也應該考慮採用零信任措施，不應該因為程式碼來自已知的儲存庫、經認可發行者簽署，或者過去未曾展現過惡意行為等理由，就對其給予絕對的通行權。
在「零信任程式碼」的原則之下，企業資安團隊在軟體執行前，應該依據規則評估程式的預期行為，若行為符合規範，就允許軟體繼續執行；若不符合，就應該直接封鎖、限制、隔離程式元件，或是將其進一步上報審查。
繪製程式進入路徑，部署是資安決策
企業若想打造零信任程式碼的運作環境，Ken Ammon 建議，組織內部可以先繪製程式碼進入生產環境，或者以有效權限執行功能的每條路徑。
舉凡程式碼儲存庫、開源套件、容器及 CI/CD 管道、電子郵件附件、下載的檔案、巨集、瀏覽器擴充功能、端點安裝程式、第三方整合，甚至是透過 AI 或自動化工具所引入的腳本，以及正式的開發管道等，全都該納入考量。
接著，企業資安團隊要釐清這些途徑，在哪些環節依賴「繼承信任」，若僅因軟體來自經核准的來源、經過簽名、通過建置流程，或是無惡意紀錄而允許執行，此類控制措施便不完整。
Ken Ammon 強調，隨著 AI 於生成合法與惡意程式碼方面扮演越來越重要的角色，企業不能再假設，通過現有程式碼檢查流程的軟體或程式，就應該被允許直接執行，部署權限本身就應該成為一項經過深思熟慮的安全決策。
在數位威脅日益複雜的今天，資安已是每位企業決策者必須掌握的課題。如果你能把艱澀的議題轉化為有觀點、有價值的分析，寫出決策者需要的報導，《TechOrange 科技報橘》正在徵內容編輯！
👉了解職缺內容
【推薦閱讀】
◆ 【shady AI 現形】比 shadow AI 更難防，已核准的 AI 工具，正在製造新的資安黑洞
◆ OpenAI、Anthropic 等逾百家企業聯合示警：AI 網攻門檻大降，防禦只剩數月
◆ OpenAI 公布 Hugging Face 事件完整調查，1,200 個 AI Agent 如何從解題走向攻擊？
＊本文開放合作夥伴轉載，參考資料：TechRadar、Anthropic，首圖來源：Pixabay
（責任編輯：鄒家彥）