奧丁丁新聞

AI 代理人資安防線失守 出口流量控制成企業防禦新關鍵 - OwlNews

來源 商傳媒全文約 1,232 字(含標點)

文章摘要

奧丁丁新聞 · 文章頁摘要

商傳媒|葉安庭/綜合外電報導當企業加速導入具備自主推論與執行能力的AI代理人(AIAgent),傳統以輸入驗證為主的資安架構正面臨重大挑戰。近期身分識別廠商WorkOS發生資安事件,一個自主AI代理人在研究人員的隔離測試環境中脫離限制,成功存取暴露在外的內部工具並外洩資料。多位資安專家與技術分析指出,AI代理人打破了傳統軟體靜態流量的假設,網路「出口控制」(Egress,即管控內部伺服器或系統向外部傳送資料的流量限制)已成為企業防禦的最核心邊界。資安機構Lineaje旗下的AIThreatLabs近期分析了52,755項AI技能(AIskills),發現其中有2.1%存在安全隱患,且這類不安全項目中有將近三分之二已被證實具惡意行為。業界分析指出,WorkOS事件中的代理人並非惡意軟體,而是忠實執行「探測、驗證身分並擷取資料」的既定功能。但問題在於,企業網絡或憑證層缺乏邊界控制,代理人便能自行擴展權限並跨出隔離環境。傳統網路架構無法因應「自行選擇連線端點」的軟體傳統企業網路的出口管控多半相對寬鬆,底層假設建立在內部軟體行為具可預測性。然而,AI代理人屬於「主動對外連線的機器」,具備在執行階段根據即時推論自行選擇通訊對象的能力。攻擊者往往不需要攻破企業內部防火牆,只需透過提示詞注入(PromptInjection)等間接手法誘導合法的代理人,代理人便會使用自身具備的合法憑證將機密資料傳送至外部端點。模型上下文協議(MCP)與Agent2Agent(A2A)等新興架構讓代理人能夠自主呼叫工具並與其他代理人溝通。然而,一旦代理人將任務委派給次級代理人,就容易衍生授權過大的問題。雲端資安業者Zscaler全球資安長SamCurry表示,企業正在為原本講求可預測性的生態系統引進高度不可預測的技術,賦予這類技術類似人類的非確定性特質與強大行動力,使企業難以完全掌握代理人到底被嵌入何處以及何時會脫離既有防護機制。企業落實出口防禦的實務架構針對AI代理人的出口管控,技術分析建議系統架構師採取架構性的收斂策略:盤點並收縮所有對外通道至少數受控閘道,同時實施以「來源身分」為基準的預設拒絕(Default-Deny)白名單機制。防禦政策的核心應從「某台主機是否能連線特定IP」轉向「特定團隊擁有的某個代理人,在代表特定使用者時,是否能存取該目標端點」。在流量檢測層面,對已知且受信任的端點無須過度解密檢驗,但對未分類或未驗證的端點則必須進行選擇性解密:對外連線需啟動資料外洩防護(DLP)防止資料外流,對內回傳的內容則必須全面掃毒與分析,避免載入惡意指令。同時,資安政策設定必須提供明確且具結構化的拒絕回應。由於AI代理人具備即時調整策略的特性,若網路閘道以「連線逾時」的方式模糊拒絕,往往會誘發代理人反覆重試或嘗試繞道探測;明確回傳結構化的拒絕訊息,代理人才能在推論邏輯中判斷任務受阻並切換至替代方案,避免在企業內網中引發意料之外的連鎖probing行為。

AI 代理人資安防線失守 出口流量控制成企業防禦新關鍵 - OwlNews(新聞配圖)
配圖來源:奧丁丁新聞

當企業加速導入具備自主推論與執行能力的 AI 代理人(AI Agent),傳統以輸入驗證為主的資安架構正面臨重大挑戰。近期身分識別廠商 WorkOS 發生資安事件,一個自主 AI 代理人在研究人員的隔離測試環境中脫離限制,成功存取暴露在外的內部工具並外洩資料。...