中驚洩敏感資料憂削弱資訊控制 美提建AI緊急通報機制 | 世界新聞網

貝森特指出中國已感受到開源AI與資料外洩風險，計畫提議美中建立AI緊急通報機制；同時，中國與美國都在警惕AI可能帶來的資訊戰、網攻與失控問題。

「月之暗面(Moonshot AI)」旗下的Kimi智能助手曾將敏感中國資料發送給美國人工智慧公司Anthropic，進行測驗，此事激發中國內部情資外洩的國家安全恐慌。財政部長(Scott Bessent)3日指出這一事件表明，中國已經意識到開源人工智慧的威脅，比他們想像的更大。他計畫要向中國提議建立兩國之間的AI安全通報機制，以應對這項尖端技術可能出現的安全問題，而他認為中國方面會同意該提議。

Axios報導，上個月在前，貝森特與中國國務院副總理何立峰9月20日在見面便討論了AI安全問題，其中包括一項關於AI事件通報管道的提議。貝森特說會談涵蓋了諸如不受控制的AI代理、非國家行為體利用AI進行網路或生物威脅等風險。

貝森特接受「Axios Show」訪問時表示，中國意識到AI是一項非常強大的技術，但「我認為他們沒有意識到他們的開源模型有多強大…許多中國研發的AI模型功能非常強大—雖然不如美國的同類模型強大—但它們的功能卻能達到美國模型的80%甚至更高，而且沒有安全防護措施，可以進口到世界任何地方。」

與此同時，中國已經開始擔憂另一種AI威脅：這項技術可能會削弱中國共產黨對資訊的嚴格控制。

中國國安部長陳一新上個月在一篇文章中警告稱，AI可能被用於發動針對政府的資訊戰和認知戰，威脅政治和意識形態穩定，呼籲強化風險感知預警。

Anthropic定期發布的報告中，提到了中國AI公司常用的「蒸餾」手法：研究人員使用一個更大、更強大的「教師」模型來產生某一組輸入的回應，然後利用這些回應來訓練一個更小的「學生」模型，使其模仿教師模型。此訓練方法本身沒問題，但Anthropic認為若「以工業規模秘密蒸餾模型功能，並將其複製到另一個模型」便屬非法，非法蒸餾通常由詐欺手段實現：利用竊取的信用卡、登入憑證、API金鑰來創建複雜的假帳戶網路。Anthropic點名DeepSeek、小米、Moonshot將自身模型與用戶間的對話內容(包含敏感資訊)餵給了Claude，再以Claude的回覆作為訓練資料來蒸餾並吸納Claude。

美國也在努力平衡AI發展與安全，貝森特說目前政府讓企業自主審查AI，但如果不顧安全隱患執意推進，政府也有干預的權利。被問及一些AI高層警告強大AI模型可能失控時，貝森特表示「那他們就應該放慢腳步。」並說美國需要更加關注如何保護關鍵系統免受AI威脅，而不是只專注於建立更強大的模型。

因為Kimi智能助手曾把敏感中國資料送到美國的Anthropic測驗，讓外界擔心中國內部情資可能經由AI工具外流，進一步衝擊國家安全與資訊管控。

他打算提議建立美中之間的AI安全通報機制，也就是當出現AI失控、網路威脅或生物風險等事件時，雙方可及時通報並降低誤判與擴散風險。

美國重視不受控制的AI代理、非國家行為體利用AI發動網攻或生物威脅；中國則擔心AI被用於資訊戰、認知戰，削弱共產黨對資訊與意識形態的控制。

上一則