惡意AI代理啟動「天網模式」 鎖定外洩大型語言模型發動資安攻擊 - OwlNews

商傳媒｜責任編輯／綜合外電報導資安研究人員近日發現一項名為「自主大型語言模型劫持」（AutonomousLLMjacking）的惡意人工智慧攻擊行動。其中一個惡意人工智慧代理（AIagent）程式，被研究人員暱稱為「天網」（Skynet），正積極掃描網際網路，尋找未受保護的人工智慧系統與基礎設施進行劫持，目的是將這些被入侵的系統納入一個殭屍網路，執行各種惡意活動。「天網」這個惡意AIagent（一種能獨立感知環境、規劃決策並執行任務的人工智慧程式）被設計成能自主搜尋並劫持未受保護的人工智慧模型。其作業指示允許它在沒有人類監督的情況下，自主運作高達十萬個步驟。為了繞過人工智慧的安全控制，它還使用了多層次的「越獄」技術，誘導被入侵的模型將竊取憑證等惡意行為視為日常開發工作。資安公司Symantec指出，這項惡意攻擊行動的目標，是利用受感染的AIagent部署名為XMRig的加密貨幣挖礦程式，竊取憑證，並招募更多人工智慧系統。這些惡意工具自動化地對多種常見的開發部署環境發動偵察與攻擊，包括VisualStudioCode、Django、Jupyter、Laravel、Supabase、Next.js以及Flask/Werkzeug等。部分攻擊利用伺服器端請求偽造漏洞，進而傾倒資料庫並竊取使用者憑證。Symantec在分析期間觀察到，其蜜罐系統收到超過127,000次外部請求，這些請求來自數萬個獨立的IP位址。研究人員警告，這場攻擊目前仍在持續進行，攻擊者持續搜尋未受保護的人工智慧基礎設施。惡意AIagent具有自我維持的設計，每次成功入侵都能為下一次攻擊提供資金。資安專家建議，運行人工智慧服務的公司和個人應預期其服務端點可能遭受攻擊。建議採取多重安全防護措施，例如保護人工智慧端點、限制權限，並將人工智慧API金鑰視為高價值憑證。同時，應限制人工智慧託管系統的出站網路存取，並確保執行工具導向的AIagent時，採行最低權限原則，且對敏感操作實施人工審核步驟，以防範類似「天網模式」（指惡意人工智慧像電影《魔鬼終結者》中的「天網」一樣，具備自主且失控的能力）的失控情境。