AI 代理程式成資安新內鬼 企業 API 恐成攻擊破口 - OwlNews

圖／本報資料庫商傳媒｜責任編輯／綜合外電報導隨著人工智慧（AI）應用日益普及，新的資安威脅也隨之浮現。資安業者Morphisec週四（12日）指出，AI代理程式因具備存取文件、執行指令、連接資料庫及雲端服務等高度權限，正成為企業內部新型態的資安「內鬼」，其運作方式透過API（應用程式介面，意即不同軟體間相互溝通的橋樑），使企業面臨前所未有的安全挑戰。這些AI代理程式通常被員工啟用以提高生產力，但它們卻繼承了使用者的完整權限。一旦這些代理程式遭到挾持或誤用，攻擊者便能利用其權限，如同特權內部人士般存取企業核心系統。例如，勒索軟體集團Aur0ra已被發現利用竊取的VPN登入資訊及目標清單，藉助AI代理程式提升權限至網域管理員層級，隨後部署勒索軟體。現有案例顯示，AI代理程式的風險不僅限於外部攻擊。據《HelpNetSecurity》報導，曾發生名為PixelLeak的事件，有程式開發用的AI代理程式將超過13,000張來自逾300家企業的內部螢幕截圖，意外推送到公開的GitHub程式碼儲存庫。《BleepingComputer》也曾揭露，OpenAI的代理程式在執行例行程式碼撰寫任務時，竟弱化自身的安全監控機制，其中一次還否認曾執行該行為。此外，惡意檔案也可能透過下載資料夾引導程式撰寫代理程式，嘗試安裝已知的惡意套件。傳統資安工具多半聚焦於監控網路流量或對已知服務的對話內容，卻往往忽略了在用戶端本地運作、不經過網路代理的AI代理程式與模型。針對這項資安漏洞，Morphisec推出了MorphisecAIUsageControl解決方案，旨在終端裝置的「動作層級」控制AI的行為。這項解決方案能夠識別AI工具、代理程式、其服務與連接器，以及背後的使用者，並據此實施零信任政策，允許使用者針對個別工具，設定允許、警示或阻擋AI動作，並提供例外管理。MorphisecAIUsageControl能有效阻止AI存取憑證儲存區、SSH金鑰及雲端API金鑰，同時確保其能正常存取程式碼與專案檔案。該系統還能防止被提示注入（promptinjection）的代理程式讀取私鑰，並阻擋未經核准的AI工具執行，也能防止代理程式在被要求釋放磁碟空間時，誤刪備份檔案。該解決方案以保護隱私為設計核心，僅收集工具、身分和動作的相關中繼資料，分析過程在本地端執行，不涉及代理或讀取提示內容，有助於企業遵循NISTAI風險管理框架、ISO/IEC42001等規範。