香港電腦學會：構建安全可靠AI框架

隨着全球加速擁抱人工智能(AI)革命，香港定位為國際創新樞紐的戰略目標下，建立堅實的AI安全機制不僅是技術挑戰，更是提升城市競爭力與國際信譽的核心任務。如何系統化確保AI技術的安全與可靠性？

AI技術的應用已滲透至金融、醫療、製造等關鍵領域，但其潛在風險亦不容忽視。包括：

一、數據安全漏洞──AI訓練依賴大規模數據集，若管理失當，可能導致個人隱私外洩或企業機密遭竊。

二、算法偏見與決策不公──歷史數據中的隱性偏見可能被AI放大，例如在招聘或信貸審批中歧視特定群體。

三、技術濫用與倫理爭議──生成式人工智能(Generative AI)如DeepSeek、ChatGPT若缺乏監管，可能被用於偽造資訊、操縱輿論甚至發動網絡攻擊。

四、網絡安全威脅──AI系統可能遭受數據中毒攻擊(Poisoning Attacks)或對抗樣本攻擊(Adversarial Attacks)，導致模型誤判或失效。

國際IT(資訊科技)研究與顧問諮詢機構高德納(Gartner)提出「AI安全與有效性框架」，為AI風險提供系統化指引。該框架強調從數據治理、透明度、持續監控及倫理合規4大支柱入手，結合技術與管理手段，構建可信賴的AI生態。

支柱一：人工智能治理(AI Governance)是框架的核心，負責制訂企業範圍內的AI政策，包括倫理指導方針、合規要求和模型驗證流程。AI治理要求企業建立AI資產清單，追蹤所有模型、應用程式和數據集的使用情況，以確保透明度和可追溯性。

支柱二：運行檢查與執行(AI Runtime Inspection & Enforcement)，專注於實時監控AI系統的表現，檢測異常行為或潛在風險。例如，若某AI模型開始產生異常輸出，如錯誤的財務預測，系統會立即發出警告並採取糾正措施。這種實時監控對防止內部數據過度分享或惡意攻擊尤為重要。

支柱三：訊息治理(Information Governance)，確保AI系統使用的數據受到妥善保護，包括數據加密、訪問控制和隱私保護。例如企業需確保只有授權用戶才能訪問敏感數據，並防止數據在AI訓練過程中洩露。

支柱四：基礎設施與技術棧(Infrastructure & Stack)，涉及AI系統運行的硬件和軟件環境，確保其安全性。例如企業需保護雲端AI平台免受黑客攻擊，並確保基礎設施符合行業標準。

這4個層面相互配合，形成一個完整的防護網，確保AI系統在各層面都安全可靠。企業可以根據自身需求，選擇合適的工具和供應商來實現這些功能。但需要注意一點，目前市場上還沒有一家供應商能提供涵蓋所有層面的完整解決方案，因此企業通常需要整合多種工具。

如企業有意採用此框架，可考慮以下建議。首先，是建立專門的AI治理團隊，需包括技術專家、法律顧問和倫理學家，以確保全面覆蓋。其次，是投資於監控工具，確保AI系統的表現始終符合預期。第三，企業應對員工進行AI風險和倫理培訓，員工需了解如何避免影子AI，即未經批准的AI工具，防止合規風險。第四，與專業供應商合作。

隨着AI技術普及，確保其安全性和可信度已成為企業和社會的共同責任。AI安全與有效性框架提供了一個清晰的路線圖，幫助企業在享受AI帶來的好處的同時，有效管理其風險。從數據隱私到模型公平性，再到實時監控，涵蓋AI安全的所有關鍵方面，為企業提供了構建值得信賴的AI系統的藍圖。

香港電腦學會網絡安全專家小組執行委員會成員 余法昌

東網網站 : https://on.cc/東網Facebook專頁 : https://www.facebook.com/onccnews/