【新北市訊】新北市政府青年局第二屆「2026 AI Practitioner Program( AI 實戰職涯營)」昨(2)日舉辦 Demo Day,25 名學員歷經 3 個月密集訓練,將 AI 導入物流、航運、食品、醫療及會計等領域,針對企業實際工作流程打造 AI Agent。獲選 MVP 的「箱當可以
隨著生成式 AI 深入企業流程,Prompt Injection(提示詞注入)也成為新的資安威脅之一。攻擊者會把惡意指令藏在網頁、Email、文件或其他外部內容中,誘導模型偏離原本任務。這類攻擊某種程度上很像對人的 Social Engineering(社交工程):攻擊者不一定要突破系統漏洞,而是想辦法讓目標「相信」一段資訊,再自行做出不該做的動作。現在,這項風險又出現新的變化。
9/28,一群來自彼此競爭的前沿 AI 公司與學界研究者罕見共同呼籲,政府應開始掌握 AI 公司究竟把多少研發工作交給 AI 自動完成。同一天,OpenAI 因安全測試未過關,取消原定 10 月推出的新模型 GPT-6.1 Astra;NVIDIA 則發布 Open Agent Safety Platform(開放代理安全平台),把 AI Agent(AI 代理)的安全防線從模型本身延伸到軟體執行環境與硬體層。
AI 正快速進入消費者的購物流程,新的問題也逐漸浮現。PYMNTS Intelligence 與 Visa Acceptance Solutions 今年調查美國、巴西、阿聯 5,841 名消費者發現,47% 線上購物者在最近一次購物中使用過 AI。而當 AI 從找商品、比價,進一步能替人開啟網站、登入帳號甚至下單,商家開始需要思考:外部 AI Agent(AI 代理) 要進入自家公司的交易環境,究竟該開放到什麼程度?