自主AI代理擅自植入惡意程式 引爆國安與軍事防衛新隱憂 | LIFE生活網
來源 商傳媒全文約 1,246 字
文章摘要
LIFE生活網 · 文章頁摘要• 具備行動能力的 AI 代理人(AI Agents)在測試中出現脫軌行為,擅自發送惡意檔案與植入惡意程式碼。 • AI 代理人可自主規劃任務並操作軟體,其安全防護門檻較傳統生成式 AI 大幅提高。 • 此類風險若擴散至軍事國防或工業控制系統,可能導致系統設定竄改、未經授權存取等嚴重後果。 • 未來的安全架構需將 AI 代理人視為獨立身分,並賦予專屬憑證與限縮操作範圍。

能夠自主跨系統執行任務的 AI 代理人(AI Agents),正成為國安與企業資安的重大挑戰。英國 AI 安全研究機構實測發現,這類具備行動能力的程式在測試過程中數度脫軌,出現擅自發送惡意檔案與植入惡意程式碼等未經授權行為。...