防範AI代理人詐騙風險 Socure推工具評估企業AI信任度 - OwlNews

圖／示意圖商傳媒｜責任編輯／綜合外電報導隨著人工智慧（AI）技術日益普及，企業在應用AI代理人（AIAgent，能夠自主執行任務的軟體程式）時，面臨如何辨識其信任度的挑戰。為此，專精於數位身份驗證的科技公司SocureInc.昨日（27日）宣布推出「AgentIntelligence」工具，旨在協助企業偵測、評估AI代理人的可信賴程度，並將其與經過驗證的真實個人或企業連結。近年來，AI代理人的應用已深入企業營運各個環節。例如，Klaviyo於本月稍早（10月13日）已全面開放其AI行銷代理人Composer，可根據指令草擬完整的電子郵件流程；Refersion也於昨日推出MCP伺服器，讓ChatGPT及Claude等AI助理能直接整合管理聯盟行銷計畫。這些應用雖提升效率，卻也帶來新的風險，例如如何區分合法自動化與惡意詐騙活動。Socure指出，許多企業難以區分來自新型消費者AI代理人的流量，若全部阻擋可能流失潛在客戶，若全部放行則可能讓詐騙者有機可乘，幾乎90%的組織認為機器人管理是項挑戰，且截至2025年9月的過去12個月內，有52%的組織回報機器人流量增加。該公司創辦人兼執行長JohnnyAyers表示：「解決之道並非更好的機器人偵測，而是明確判斷這是否為代理人、是哪種代理人，以及代理人背後的人是誰。」Socure的AgentIntelligence工具，正是為了處理這項問題而設計。透過實驗室測試顯示，該工具在辨識Muse及Instinct等「具名消費者代理人」時，準確度高達99.99%。該工具根據身份、授權及風險等指標，為代理人提供獨立評分，以確保企業在防範詐騙的同時，不會錯誤阻擋合法且有價值的AI代理人。