2027 年將有逾半企業測試 AI 代理！5 個重點看如何管理使用風險
根據 Deloitte 預測，到2027 年，將有半數使用生成式 AI 的企業會推出 AI 代理（AI Agent）試點專案。在這項技術快速發展之際，世界經濟論壇與 Capgemini 共同發布白皮書《AI 代理演進與影響》，深入探討這項新興技術的潛力與影響。
AI 代理是一種能夠感知並在特定環境中自主行動以實現目標的人工智慧系統。目前包括微軟、IBM 等科技巨頭都在積極開發 AI 代理技術。據《Bloomberg》報導，OpenAI 也準備發表一個代號為「Operator」的 AI 代理。該技術可以做到控制你電腦、單獨執行特定任務，但具體能完成什麼任務還尚未公開，OpenAI 預計在 1 月推出研究用的版本與開發者工具。
AI 代理系統包含哪些要素？
今年三月，Cognition AI 推出名為「Devin」的自動軟體工程師，能夠根據自然語言處理（NLP）提示完成複雜的 coding 任務。目前市場也皆看好這項技術的發展前景，過去兩年來已向專注於該應用的新創投資超過 20 億美元。
一個完整的 AI 代理系統包含多個核心組件：使用者輸入或指令、運作環境（可以是實體或數位環境）、感測器（Sensor）、控制中心（包含複雜的演算法和模型）、感知器（Percepts，接收環境數據的輸入），以及執行器（Effectors，執行動作的工具，可以是機械臂或發送給其他軟體系統的指令）。控制中心負責管理使用者輸入、決策規劃、記憶體管理、工具存取和系統效應器之間的資訊流，使 AI 代理能在數位或實體環境中採取行動。
為什麼需要 AI 代理？
隨著技術演進，未來將看到更多、更複雜的多代理系統（MAS），這些系統能夠分配任務並協作解決複雜問題。例如在智慧城市中，多代理系統可以利用車聯網（V2X）通訊即時管理交通流量，讓車輛與行人和道路基礎設施進行互動。此外，AI 代理也將整合多模態數據分析能力，能夠解讀和產生文字、語音、視訊等各種類型的數據。
AI 代理的優勢在於能夠執行超出使用者技能範圍的任務，如寫程式，或快速大規模處理繁瑣工作。在人才短缺的環境下，AI 代理可以彌補各行業的技能缺口。根據世界經濟論壇的報告，AI 代理具備更強的自主性，能夠應對從科學發現到供應鏈效率優化等開放式現實問題，並能驅動可操縱物體和在實體環境中導航的機器人。
AI 代理也有風險，有效管理可採 5 大措施
不過，AI 代理也存在技術限制、倫理考量和更廣泛的社會影響等風險。為了有效管理這些風險，組織需要採取多項措施：提高代理系統的透明度、配置人類在各環節中的監督機制、建立明確的倫理準則、加強數據治理和網路安全，以及推動公眾教育和認知策略，以降低在與 AI 代理互動時過度依賴和失能的風險。
【推薦閱讀】
＊本文開放合作夥伴轉載，參考資料：《WEF》、《Deloitte》，首圖來源：Pixabay。
（責任編輯：廖紹伶）