思科推企業級AI安全方案 強調AI代理紅隊測試與可觀測性 - OwlNews

圖／示意圖商傳媒｜責任編輯／綜合外電報導隨著人工智慧（AI）代理在企業應用中日益普及，其帶來的安全與管理挑戰也浮上檯面。網路設備龍頭思科（Cisco）近日宣布推出一系列創新解決方案，包括「前沿AI紅隊測試」（FrontierAIRedTeaming）與「AI代理可觀測性」（AgentObservability）功能，旨在協助企業確保AI代理的安全、治理與效能。思科的「AI防禦」（AIDefense）框架將整合Anthropic公司開發的ClaudeMythos模型，強化AI應用程式與AI代理的紅隊測試能力。紅隊測試是一種模擬攻擊的資安演練，目的是找出系統潛在的弱點。透過ClaudeMythos的先進推理能力，安全團隊能更有效地規劃測試，並將結果轉化為針對不同AI系統的攻擊策略，確保AI應用在投入生產前就能找出關鍵缺陷。此外，思科正加強SplunkAgentObservability與CiscoIQ的功能，為企業大規模部署AI代理做好準備。可觀測性（Observability）指的是監控系統內部運作狀況，以理解其行為與效能。「Tokenomics」是SplunkAgentObservability的強化功能之一，能將AI代理的運行成本與其工作品質和業務影響連結，提供企業在AI投資上的單一視圖（ROI）。透過新推出的Eval-G1評估模型與「評估調優器」（TheEvaluationTuner），企業能以更低成本、更快速度執行AI代理的評估與安全防護措施，實現即時的AI代理控制。業界研究顯示，AI代理的普及速度已超越了企業建立管控與問責制度的腳步。去年有超過一半（52%）的企業曾發生AI代理相關的資安或隱私事件，而僅有不到一成的企業有專人負責AI代理的行為。同時，員工未經授權使用AI工具（俗稱「影子AI」）也為企業帶來數據外洩、智慧財產損失等風險。思科的這些新作法，正是為了因應這些日益嚴峻的挑戰。思科總裁暨產品長JeetuPatel表示，企業必須確保AI代理在安全、治理與可觀測的框架下運作，才能擴展其應用價值。而Anthropic的資安負責人MichaelMoore也指出，ClaudeMythos整合至思科的AI防禦框架，將能協助資安團隊更深入地對AI代理進行測試。為提供更全面的防護，思科也將CiscoIQ的威脅情報整合至Splunk平台，並透過模型上下文協議（ModelContextProtocol,MCP）與ServiceNow連接器，將資安發現自動轉化為可執行的IT服務管理紀錄，協助企業快速協調修復工作。目前，採用ClaudeMythos的調適性紅隊測試將開放給特定企業使用，而Tokenomics預計於今年12月提供私人預覽，並於2027年初在亞馬遜網路服務公司（AWSMarketplace）全面上市。Eval-G1評估模型與評估調優器則已於本月全面上市。參考來源CloudsmithsecurestheAIsoftwaresupplychainwithagents…（VMblog）EnterprisesHaveLearnedtoDeployAIAgents.TheyHaveNot…（VMblog）SnowflakePowerstheAgenticEnterprise,GivingEveryAIAge…（BizToday）E2BTestsNVIDIAVeraforHigh-DensityAgentSandboxFleets（Unite.ai）ShadowAIExposesData,SystemsBeyondITControl（MexicoBusiness）CiscoUnveilsFrontierAIRedTeamingandAgentObservabilit…（CisionPRNewswire）Thenextbreakthroughissoftwarebuiltonthebattlefieldb…（BreakingDefense）Google,Amazon,Microsoft,MetacoulddominateAIagents,Op…（PPCLand）At-HomeCareProvidersFaceHigh-StakesLearningCurvesWith…（HomeHealthCareNews）RedHatOpenShift5BringsAIAgentstoClusterTroubleshoot…（VirtualizationReview）