奧丁丁新聞

防範AI代理誤刪敏感資料 語義快取成企業治理新利器 - OwlNews

來源 商傳媒全文約 731 字(含標點)

文章摘要

奧丁丁新聞 · 文章頁摘要

圖/示意圖商傳媒|何映辰/台北報導隨著企業陸續放行AI代理(Agent)讀取、修改甚至刪除內部敏感資料,傳統資安架構正面臨失效危機。為了在不拖慢系統效能的前提下控管風險,業界開始轉向「語義快取(SemanticCaching)」技術,直接在資料傳輸路徑中實施即時治理。根據外媒《SiliconANGLE》報導,企業內部如智慧財產權、客戶資料庫及專利演算法等核心資產,已逐漸開放給自主運作的AI代理存取。然而,防火牆與資料外洩防護(DLP)等傳統資安工具,過去都是針對人類使用者與一般應用程式設計,難以防範新型態風險。新創業者DaxaInc.共同創辦人暨執行長HuseniSaboowala指出,AI代理運作在所謂的「認知層」(CognitiveLayer,或稱第8層)。該層級是Prompt、模型回應、資料檢索與工具呼叫(ToolCalls)實際發生的場域,傳統工具根本無法在此運作。為解決這項痛點,業界提出運用語義快取作為即時控管機制。這項技術——簡單來說就是在快取中辨識指令語義而非僅比對字面文字——能讓系統在資料串流中即時攔截並採行控制措施,同時避免拖慢AI代理的反應速度。此外,搭配具備推理能力的存取控制,由特定代理負責標記異常行為,可進一步降低認知層的資安威脅。伺服器大廠慧與科技(HewlettPackardEnterpriseCo.)也採取相應防範措施。該公司將治理機制直接內建於旗下產品HPEPrivateCloudAI架構中,避免在工作流程成形後才以拼裝方式補強。報導指出,目前已有區域銀行採用DaxaInc.與慧與科技的解決方案,將內部AI代理安全連接至原始程式碼與受高度監管的客戶資料庫中。

防範AI代理誤刪敏感資料 語義快取成企業治理新利器 - OwlNews(新聞配圖)
配圖來源:奧丁丁新聞

隨著企業陸續放行 AI 代理(Agent)讀取、修改甚至刪除內部敏感資料,傳統資安架構正面臨失效危機。為了在不拖慢系統效能的前提下控管風險,業界開始轉向「語義快取(Semantic Caching)」技術,直接在資料傳輸路徑中實施即時治理。...