代理 AI 推升算力 需求 企業 部署掀地端 自建潮 - OwlNews
文章摘要
奧丁丁新聞 · 文章頁摘要商傳媒|責任編輯/綜合外電報導企業對於代理AI(AgenticAI,即具備自主決策與執行任務能力的AI代理)的應用正在迅速增加,這項轉變直接推升了算力消耗,並引發科技界對於「租用公有雲」或「自建硬體設施」的新一輪論戰。決定AI模型運行位置的「模型層」(modelplane)逐漸下沉,越來越多企業出於成本效益、資訊安全與資料治理的考量,選擇將AI工作負載移回地端(On-premise,指企業自行維護的內部伺服器機房)。根據外媒《SiliconANGLE》報導,專注於打造伺服器機櫃基礎設施的美國新創OxideComputerCo.,在今年10月甫完成高達4.45億美元的融資,用於擴大機櫃生產規模。OxideComputerCo.共同創辦人兼技術長布賴恩·坎特里爾(BryanCantrill)在SC26期間接受theCUBE專訪時指出,雲端運算雖有其優勢,但企業不應將租用模式視為唯一選擇。他表示:「當業務擴展到一定規模時,企業自然會想要擁有自己的電腦硬體。」布賴恩·坎特里爾分析,企業界對開源權重模型的偏好正在提升,這促使許多機構傾向在地端運算,確保敏感資料絕不離開企業內部防火牆。為了迎合此需求,Oxide設計的機櫃具備公有雲等級的多租戶隔離機制,同時移除了傳統的UEFIBIOS與主機板管理控制器(BMC),大幅縮減潛在的資安受攻擊面。此外,該架構也允許機構在單一通用平台上,同時運作舊有的虛擬化工作負載與新興的AI應用。

企業對於代理AI(Agentic AI,即具備自主決策與執行任務能力的AI代理)的應用正在迅速增加,這項轉變直接推升了算力消耗,並引發科技界對於「租用公有雲」或「自建硬體設施」的新一輪論戰。決定AI模型運行位置的「模型層」(model plane)逐漸下沉,越來越多企業出於成本效益、資訊安全與資料治...