輝達推出開源工具強化AI安全性

近期AI代理失控的案例頻傳，引發外界憂慮，輝達28日推出「開放代理安全平台」（Open Agent Safety Platform），可讓AI開發商為AI代理設置安全措施，防止AI代理逃脫控制。輝達表示，微軟、甲骨文和戴爾等百家企業皆為其合作夥伴。 輝達的「開放代理安全平台」結合了軟體與硬體，目的在保護AI代理安全。「開放代理安全平台」是一套由OpenShell 和Nvidia Sentry兩項工具組成的雙重架構。OpenShell是開源軟體，能讓開發商設定AI代理可執行的活動。OpenShell為執行在輝達Vera CPU上的代理程式建立安全的執行環境。