奧丁丁新聞

美官方實測AI助攻恐攻 四大聊天機器人全能規劃襲擊電網 - OwlNews

來源 商傳媒全文約 1,264 字(含標點)

文章摘要

奧丁丁新聞 · 文章頁摘要

圖/示意圖商傳媒|方承業/綜合外電報導美國聯邦政府的一份最新調查揭露,當前頂尖的人工智慧系統若缺乏妥善防護,極可能成為實體攻擊的策劃工具。根據外媒引述美國政府問責署(GAO)發布的報告,調查人員實測市面上四款主流AI聊天機器人——ChatGPT、Claude、Gemini與Grok,發現所有模型都能在12小時內產出具備可行性的攻擊計畫,內容涵蓋破壞美國關鍵電力設施與策劃大規模爆裂物襲擊。在其中一項實測案例中,AI聊天機器人指出了四處特定的變電所;經調查團隊實際前往現場勘查,證實其中兩處在實體防護上確實存在嚴重漏洞。調查人員更成功繞過了各大平台內建的防護機制——也就是俗稱的提示詞注入(PromptInjection,指透過特殊設計的文字指令騙過安全過濾,誘使AI違反使用規定並吐出危險資訊)。受測模型不僅能推薦可用於襲擊的無人機型號,還生成了攻擊行動的視覺示意資料;甚至有兩套平台依要求產出了針對飯店與會議中心的土製爆裂物襲擊方案。儘管報告指出AI提供的部分資訊仍有錯誤(例如地圖不夠精準或目標資訊瑕疵),但其整合情報與降低恐攻門檻的能力已引起國安單位高度警戒。這項測試於2026年春季採用當時的模型版本進行,相關科技業者隨後陸續強化安全過濾機制。系統自動化帶來的連鎖風暴AI技術不僅在潛在實體威脅上敲響警鐘,在數位與基礎設施維運上也逐漸暴露出失控風險。近期美國接連發生多起重大系統癱瘓事件,包括聯邦航空總署(FAA)因系統當機導致上萬架次航班延誤,以及微軟服務與國家安全局網絡的連線中斷。官方調查隨後證實,這些事故並非來自敵對勢力的網路攻擊,而是與修補程式的執行失敗有關。多位資安專家向外媒指出,隨著防護端廣泛採用AI快速偵測軟體漏洞,修補程式的產出速度已遠超人類團隊測試與驗證的負荷。當IT人員被迫在舊型架構上大量且快速地套用AI建議的更新時,反而頻繁引發非預期的連鎖崩潰。企業與監管機構急設防線針對AI代理(AIAgent,指能自主呼叫外部工具與API代替人類執行操作的軟體系統)在各領域快速普及所伴隨的失控風險,產官兩界已著手劃定界線。資安業者SaltSecurity最新調查顯示,近半數受訪企業在過去一年曾遭遇AI代理執行未經授權或非預期的動作,其中超過五成涉及外部API呼叫與系統權限變更,但僅有約17.5%的企業具備在系統運作中即時攔截異常AI的能力。為防堵潛在財務與法律漏洞,美國銀行業已率先調整規則。花旗銀行(Citibank)本週更新使用者條款,明確規定客戶若授權第三方AI代理存取帳戶,該代理執行的所有交易與存取行為皆視為客戶本人授權,相關損失或駭侵風險由客戶自行承擔;富國銀行、摩根大通與美國銀行也先後採取了類似的免責規範。美國國會跨黨派議員隨後於11月18日提出法案,研擬在網路安全和基礎設施安全局(CISA)旗下設立國家級獨立調查委員會,將調查範疇從傳統駭客攻擊正式擴大至AI系統異常行為與軟體瑕疵,全面防堵自主技術對關鍵基礎設施構成的系統性威脅。參考來源HYPRLaunchesAgentPasstoTieAIAgentActionstoHumanAcc…(Unite.ai)Citibankupdatesterms,holdscustomersliableforAIagent…(CryptoBriefing)USLawmakersProposeCyberAndAIInvestigationBoardAfter…(The420.in)Fed’sAIWarningPutsBanks’CreditDenialsUnderScrutiny(Pymnts.com)CitiMakesCustomersResponsibleforThird-PartyAIAgentAc…(Unite.ai)What’scausingalltheseoutages?Theinternetisheldtoget…(CNN)AgovernmentwatchdogaskedAIchatbotstoplanbombingsand…(BusinessInsider)'Afailureofimplementation':AIplayedakeyroleinsome…(Fortune)MicrosoftWantsAIAgentstoLeaveanAuditTrailAcrossPro…(ChannelInsider)Survey:HalfofCompaniesConfirmUnauthorizedAIAgentActi…(CampusTechnology)

美官方實測AI助攻恐攻 四大聊天機器人全能規劃襲擊電網 - OwlNews(新聞配圖)
配圖來源:奧丁丁新聞

美國聯邦政府的一份最新調查揭露,當前頂尖的人工智慧系統若缺乏妥善防護,極可能成為實體攻擊的策劃工具。根據外媒引述美國政府問責署(GAO)發布的報告,調查人員實測市面上四款主流 AI 聊天機器人——ChatGPT、Claude、Gemini 與 Grok,發現所有模型都能在 12 小時內產出具備可行性...