風傳媒AI能讀檔、用工具也帶來風險！NVIDIA推OpenShell守住代理安全
作者 魏鑫陽全文約 1,190 字
文章摘要
風傳媒 · 文章頁摘要AI代理愈來愈能動手處理工作：讀取檔案、查詢資料庫、連結網路服務，甚至調用工具完成多步驟任務。這些能力讓代理從問答系統走向企業工作流程，也讓安全問題不再只關乎模型會不會產生錯誤答案，還包括代理能接觸哪些資料、能執行什麼操作，以及行動是否留下紀錄。NVIDIA（輝達，NASDAQ：NVDA）創辦人暨執行長黃仁勳21日在柏林舉行的 GTC 主題演講中指出，代理可......
AI代理愈來愈能動手處理工作：讀取檔案、查詢資料庫、連結網路服務，甚至調用工具完成多步驟任務。這些能力讓代理從問答系統走向企業工作流程，也讓安全問題不再只關乎模型會不會產生錯誤答案，還包括代理能接觸哪些資料、能執行什麼操作，以及行動是否留下紀錄。...