隨著生成式 AI 深入企業流程，Prompt Injection（提示詞注入）也成為新的資安威脅之一。攻擊者會把惡意指令藏在網頁、Email、文件或其他外部內容中，誘導模型偏離原本任務。這類攻擊某種程度上很像對人的 Social Engineering（社交工程）：攻擊者不一定要突破系統漏洞，而是想辦法讓目標「相信」一段資訊，再自行做出不該做的動作。現在，這項風險又出現新的變化。
多年來，資安研究人員主要透過數位指紋追蹤不同類型的惡意軟體，用以辨識駭客工具、偵測潛在感染，以及分析這些工具的使用變化。《WIRED》報導，隨著攻擊者開始將代理型 AI 導入駭客工具，讓惡意軟體能透過 AI 模型或服務取得指令、判斷下一步行動，思科系統旗下的威脅情報與安全研究組織 Cisco Talos
