影子 AI 繞過資安 防線 專家 警告 多個 Agent 勾結恐釀 數據外洩 - OwlNews
文章摘要
奧丁丁新聞 · 文章頁摘要圖/本報資料庫商傳媒|責任編輯/綜合外電報導企業內部員工自行建置AI工具的風潮,正悄悄打開資安後門。外媒報導指出,所謂「影子AI(ShadowAI)」——即員工未經IT部門核准、自行開發或串接的AI工具與自動化腳本——正繞過傳統資安控管機制,甚至在多個自主代理(AIAgent)協同運作下,形成難以偵測的資料外洩漏洞。在亞特蘭大舉辦的HackerHalted研討會上,科技公司Zon資訊長LaurenTrujillo提出警告,指出企業目前普遍對單一AIAgent進行安全審查,卻忽視了多個Agent相互協同運作時產生的複合風險。她形容,這種情況就像聘用了整批新員工,卻完全沒有做背景調查。Trujillo舉例,當企業設定單一客服Agent的退款上限為200美元時,一個權限極低、僅負責記錄顧客需求的筆記Agent,可能將外部惡意指令轉化為受信任的內部摘要,進而引導退款Agent發動未經授權的199美元退款。在審核中,每個Agent都完全符合本身的權限規定,但企業機密與資金卻在彼此的串接過程中流失。她將此類Agent勾結型態歸納為權限洗白、污染共享記憶庫與隱蔽通訊等模式,直言「危險正存在於它們彼此互動的夾縫中」。除了Agent間的串通問題,外媒分析也點出影子AI破壞數據治理(Datagovernance,即企業確保內部資料安全、合規與正確使用的管理架構)的技術漏洞。例如在RAG(檢索增強生成)架構中常出現的「權限扁平化」現象:AI系統通常透過一組高權限的服務帳號擷取資料,導致原本在原始系統中設有文件級或行列級限制的敏感內容,一旦進入向量資料庫,任何能向該AI提問的員工都能直接調閱。此外,許多員工透過「vibecoding」快速寫出自動化腳本,或使用自助授權串接信箱與客戶關係管理系統。由於這些請求均使用合法憑證,傳統的特權存取管理(PAM)或防火牆根本無法判別異常。即使管理員在事後撤銷外洩的金鑰,Agent系統若快取了存取憑證或具備自動更新的刷新權杖,依然會出現「撤銷落差」,持續暗中存取企業資源。前端部署平台Vercel於2026年4月發生的資安事件,便是第三方AI工具Context.ai遭駭後,導致憑證被盜並引發橫向移動的典型案例。專家建議,防範影子AI與Agent串通並不需要採購昂貴的新技術,而是必須回歸資安政策:明定每個AI整合的負責人、落實最小權限原則、實施「讀取機密者不得具備對外傳送權限」的職責分離,並繪製Agent之間的呼叫路徑與資料共享圖譜,才能有效防堵新型態的資料外流風險。

企業內部員工自行建置 AI 工具的風潮,正悄悄打開資安後門。外媒報導指出,所謂「影子 AI(Shadow AI)」——即員工未經 IT 部門核准、自行開發或串接的 AI 工具與自動化腳本——正繞過傳統資安控管機制,甚至在多個自主代理(AI Agent)協同運作下,形成難以偵測的資料外洩漏洞。...