隨著生成式 AI 深入企業流程，Prompt Injection（提示詞注入）也成為新的資安威脅之一。攻擊者會把惡意指令藏在網頁、Email、文件或其他外部內容中，誘導模型偏離原本任務。這類攻擊某種程度上很像對人的 Social Engineering（社交工程）：攻擊者不一定要突破系統漏洞，而是想辦法讓目標「相信」一段資訊，再自行做出不該做的動作。現在，這項風險又出現新的變化。
9/28，一群來自彼此競爭的前沿 AI 公司與學界研究者罕見共同呼籲，政府應開始掌握 AI 公司究竟把多少研發工作交給 AI 自動完成。同一天，OpenAI 因安全測試未過關，取消原定 10 月推出的新模型 GPT-6.1 Astra；NVIDIA 則發布 Open Agent Safety Platform（開放代理安全平台），把 AI Agent（AI 代理）的安全防線從模型本身延伸到軟體執行環境與硬體層。
