五角大廈難防「影子AI」工具 專家示警：禁令無效須內建安全 - 獨家報導

圖／示意圖商傳媒｜何映辰／台北報導美國國防部（五角大廈）正面臨一項日益嚴峻的挑戰：在內部系統中如何管理未經授權的人工智慧（AI）工具。專家指出，僅靠發布備忘錄來禁止這些所謂的「影子AI」工具，根本無法有效遏止其蔓延，反而可能增加潛在的資安風險。 根據《Washington Technology》報導，所謂的「影子AI」指的是在政府內部運作，卻未經正式授權或批准的AI應用程式。這種現象的產生，並非源於員工惡意企圖洩露資訊，而是為了提高工作效率，尤其當官方批准的工具不夠便捷或有效時，員工便會轉而尋求外部資源。文章舉例說明，曾有承包商為了趕工，將外部的AI代理程式（AI agent）接入五角大廈系統，因為這是當時唯一能快速完成任務的工具，顯示這並非是惡意行為，而是為尋求解決方案。 現行針對AI事件的標準回應，通常是發布備忘錄禁止未經批准的工具，然而此舉成效不彰。這是因為現有的事件通報規則，無法解決當員工所需的工具超出官方核准範圍時的問題。這種禁令反而迫使使用者尋找非官方的途徑，進而可能將敏感資料暴露於不受控的環境中，形成資安漏洞。 Statecraft 共同創辦人暨執行長 Alex Cohen（曾任職於印第安事務局）在評論文章中建議，五角大廈應學習政府對人類管理員所採用的紀律，將其應用於軟體。他強調，有效的解決方案是讓內部核准的工具路徑，比未經授權的路徑更快速、更安全。這代表需要投入資源建構安全且高效的內部AI工具，才能從根本上解決問題。 此外，Alex Cohen 提出了多項針對AI代理程式的監管原則：AI代理程式應擁有獨立身分，絕不借用使用者的登入憑證；其權限應遵循「最小權限原則」（least privilege），即只授予完成任務所需的最少權限；AI代理程式的每一項行動都必須被記錄，並由資安團隊進行審查；其對外連線應透過白名單機制進行管制；即使AI代理程式已完成草稿與測試，投入實際運作前仍需人工批准，以確保安全與合規性。