防範 AI 自主 執行 風險 七大資安 防護 工具出列 - OwlNews
文章摘要
奧丁丁新聞 · 文章頁摘要圖/本報資料庫商傳媒|何映辰/台北報導企業導入人工智慧的腳步正從單純的「提供建議」,跨入由系統自主決策並操作軟體的代理人時代。外媒《AINews》報導指出,當傳統AI轉向具備自主執行能力的AgenticAI運作機制——也就是系統能直接將判斷轉化為實際行動時,企業面臨的資安風險隨之大幅升高。傳統AI資安著重於模型、Prompt以及應用程式的輸出內容。然而,自主代理人能串接外部工具與資源,導致風險面向擴展至資產盤點、供應鏈安全、身分權限、執行階段行為以及意圖偏差。其中,當代理人的行為逐漸偏離使用者最初設定的目標時,即會產生「意圖偏差」風險;若用來連接外部工具與資源的MCP伺服器遭到入侵,更會直接擴大受攻擊面。針對這類新型態威脅,業界目前已有七款主要防護工具提供不同層面的防禦機制。在資產盤點與意圖監控方面,DashSecurity具備持續盤點企業內部代理人資產的能力,無論是官方核准或未經授權的影子代理人、MCP伺服器及擴充套件皆能掌握,並透過監控作業過程來記錄使用者意圖、代理人推論與工具使用之間的關聯。ZenityInc.則聚焦於生命週期防護,涵蓋代理人的資產發現、組態狀態管理到執行階段的威脅偵測。資安大廠派拓網路(PaloAltoNetworks)推出的PrismaAIRS,則是將代理人安全整合進整體的企業資安架構——也就是保護公司內部網路、系統與資料免受威脅的防禦體系——全面納管身分、工具與執行動作。其他專用防護工具亦鎖定即時執行階段的防禦。Hiddenlayer的平台著重於自主執行過程的可視性,支援威脅獵捕與調查;CheckPointAISecurity結合了對AI互動過程的控管,防範代理人嘗試執行的惡意操作;NomaSecurity提供涵蓋供應鏈風險與自主系統執行階段防護的完整方案;現已併入SentinelOne旗下的PromptSecurity,則強化員工、應用程式與代理人系統的使用可見度,協助企業落實安全政策。

企業導入人工智慧的腳步正從單純的「提供建議」,跨入由系統自主決策並操作軟體的代理人時代。外媒《AI News》報導指出,當傳統 AI 轉向具備自主執行能力的 Agentic AI 運作機制——也就是系統能直接將判斷轉化為實際行動時,企業面臨的資安風險隨之大幅升高。...