Gartner預測2030年部署面向公眾的AI服務的企業，有80%將經歷成本耗盡攻擊，致營運成本超額

9月15日在澳洲黃金海岸舉行的Gartner IT Symposium/Xpo大會期間，產業研究與顧問機構Gartner發布2027年暨未來核心策略預測，區分為三大類別：無所不在的機器人（robots everywhere）、由投入成本轉向創造價值（cost to value）、以及未知的未知（unknown unknowns）。Gartner傑出研究副總裁兼院士級分析師Daryl Plummer對此提出十大預測，當中有多項與資安相關。

舉例來說，他預言：「到了2030年，80%部署面向公眾之AI服務（public-facing AI）企業將經歷『成本耗盡攻擊（cost exhaustion attack）』，致營運成本超額。」根據Gartner的觀察，隨著面向公眾AI的普及，名為「成本耗盡攻擊」的新型網路安全風險正在出現，這意指惡意行為者刻意拉高AI使用量，增加企業營運成本。由於AI日益嵌入各類面向使用者（customer-facing）的應用程式，企業需同時從成本與安全管控層面的考量，審視Token消耗與AI使用模式。Gartner提議企業應為AI Token成本建立網路安全指標，建立側重成本控制的安全管控機制，並將所有AI技術納入監測範圍。

從風險管理的角度而言，Daryl Plummer預測：「到了2030年，主導推動AI治理的力量會是保險公司，而非監管機構，因為為了降低成本，AI責任保險需要制定嚴格承保標準。」

當前的企業AI治理模式正從基於政策規範轉向營運治理，而且是將管控機制直接嵌入AI系統與工作流程。隨著AI相關風險與責任疑慮日益增加，保險公司可望透過鼓勵企業強化監督、風險管理與技術管控等手段，深入影響AI治理的實踐。Gartner建議企業實施AI治理技術，在實際環境下測試管控措施，並建立執行時的監督機制，兼顧AI創新與當責。

關於企業的AI治理，Daryl Plummer預測：「到了2030年，在全球500強企業中，將有80%透過合約規定，指定其資訊長（或AI長）擔任AI當責機制的『證據保管人（Evidence Custodian）』」。

AI技術已日益融入關鍵業務流程與決策環節，企業面臨AI行為當責、透明度與監督壓力也隨之增大。這股趨勢進一步擴大技術領導者在監督AI當責方面的角色，並確保治理AI的護欄措施能在企業範圍內統一實施。Gartner建議企業應全面評估自身的數位證據管理能力，建立明確的AI行為當責機制，以實現負責任的AI治理。