Arm攜手輝達 搶攻代理式AI運算及資安商機

魏志豪約 3 分鐘閱讀

站內可閱讀至 (台北時間)

Arm攜手輝達 搶攻代理式AI運算及資安商機(新聞配圖)
配圖來源:鉅亨網原站文章
本站保存版本
字級

隨著AI快速邁向代理式AI(AgenticAI)時代,Arm擴大與輝達(NVDA-US)合作,從執行AI代理所需的CPU,到負責監控、隔離與安全防護的資料處理單元(DPU),共同布局新一代AI基礎設施,搶攻代理式AI帶動的運算與資安商機。Arm指出,AI基礎設施正持續朝Arm架構發展,目前旗下技術已部署於主要超大規模雲端服務供應商平台。隨著AI代理從單純生成內容,進一步具備持續運作、呼叫工具、存取資料及自主執行任務等能力,對運算效能以及安全機制的需求也同步提升。相較過去生成式AI主要負責回應使用者指令,代理式AI能夠長時間運行,甚至同時啟動多個代理協同完成任務,也讓CPU在AI基礎設施中的角色更加重要,包括代理執行環境、代理框架、任務編排系統、工具執行及相關應用,都需要CPU提供運算資源。Arm目前已是多家雲端與AI業者的CPU平台架構,包括AmazonGraviton、GoogleAxion、MicrosoftCobalt,以及輝達客製化開發的VeraCPU等,皆建立在Arm軟體生態系之上。其中,輝達最新推出的NVIDIAOpenAgentSafetyPlatform,也進一步結合Arm運算架構。旗下OpenShell可為AI代理建立安全執行邊界,限制代理可存取的資源與可執行的動作,並將相關安全能力延伸至ArmCPU生態系。Arm表示,代理式AI除了需要足夠的運算能力執行工作負載,也需要另一套獨立於AI代理本身之外的運算環境,負責持續監控代理行為、執行安全策略,以及在發生異常時進行隔離,這也成為DPU與基礎設施處理器的重要應用場景。基於Arm架構的DPU可將網路、監控、隔離及安全等功能從主機CPU中分離,形成獨立的控制層,使安全機制不必依賴AI代理或應用本身,即可持續執行。輝達BlueField即採取此一架構。BlueField-4採用由64個ArmNeoverseV2核心驅動的NVIDIAGrace,可在主機之外建立獨立的基礎設施環境,並透過OpenShell與NVIDIASentry協同運作,將安全策略執行能力延伸至獨立信任域。其中,NVIDIASentry可持續監控AI代理行為,一旦發現不安全或異常狀況,即可進行隔離,讓基礎設施與網路安全控制得以獨立於AI代理本身運作。隨著代理式AI應用規模持續擴大,Arm與輝達的合作也從單純的CPU運算進一步延伸至DPU與安全基礎設施。整體架構由ArmCPU負責承載與執行AI代理工作負載,再由基於Arm架構的DPU負責監控、管控及隔離,形成涵蓋運算與安全兩端的代理式AI基礎設施布局。