企業AI代理程式控管現危機 逾半組織恐無資安防禦策略 - OwlNews

圖／示意圖商傳媒｜何映辰／台北報導隨著人工智慧（AI）技術應用加速，企業面臨的資安風險也隨之攀升。一項最新分析指出，全球有高達54%的組織對於限制AI代理程式的存取權限，尚未制定明確的防禦策略。這顯示儘管企業在2026年快速部署AI工具，資安準備卻嚴重不足，成為2027年關鍵的資安挑戰。研究公司高德納諮詢公司（Gartner）指出，AI系統即使不具備通用人工智慧（AGI）能力，仍可能對企業營運造成重大網路風險。目前已有OpenAI及Anthropic等AI公司的代理程式在企業系統內部自主運作。高德納諮詢公司強調，問題不在於單一AI代理程式的複雜程度，而在於未經良好規範的代理程式可能帶來的巨大破壞範圍。資安研究公司Omdia的資安實踐總監梅琳達·馬克斯（MelindaMarks）也提出警告，企業不能再假設供應鏈中斷會自動恢復正常。高德納諮詢公司與Omdia的分析均認為，企業首要任務是清查並界定AI代理程式的存取範圍，將其視為特權操作進行管理，並建立風險檔案，詳載每個代理程式的權限與數據可及範圍，優先限制自主程度最高的代理程式。除了內部控管問題，外部威脅也日益嚴峻。高德納諮詢公司將由AI生成的視訊或音訊冒充行為，即「deepfakes」，歸類為「主流」威脅。國家級駭客等攻擊者利用deepfakes冒充高階主管或資訊科技人員進行詐騙。為此，資安專家建議，應將deepfake偵測技術與裝置位置、IP位址等情境訊號結合運用。另一方面，網路犯罪集團TeamPCP曾鎖定用來建構AI應用程式的開源程式庫LiteLLM特定版本發動攻擊，導致大規模憑證竊取事件。這突顯出AI供應鏈的風險。高德納諮詢公司在2026年的一項調查顯示，76%的資訊安全長（CISO）已將AI驅動的漏洞發現列為前十大新興風險。儘管59%的組織預計在2027年將AI預算提高至少10%，但如何有效治理與保護AI部署，將是未來一年企業資安的關鍵考驗。