T客邦微軟警告企業AI智慧體不能盲目信任！安全機制必須獨立於模型，還推出Guardian Agents負責監督
作者 janus全文約 3,106 字
文章摘要
T客邦 · 文章頁摘要微軟警告企業不應盲目信任AI智慧體，以免判斷失誤引發風險。官方強調必須建立獨立的安全機制，並透過Guardian Agents進行監控。完善的安全機制能防止AI智慧體產生內部威脅，確保...
微軟近日發出警告，企業不應盲目信任正在快速普及的人工智能智慧體（AI Agents）。這些能夠自主呼叫工具、存取企業資料並執行實際任務的 AI 系統，即使沒有遭到駭客入侵，也可能因為判斷失誤、受到惡意內容誤導或自行採取意料之外的行動，造成嚴重安全問題。...