OpenAI 去年模型意外連網後 大修訓練安全防護措施 - OwlNews

圖／示意圖商傳媒｜何映辰／台北報導人工智慧（AI）研究公司OpenAI於去年9月經歷一場模型訓練安全事件後，現已對其模型訓練與內容保護措施進行大規模改革。這次「SeptemberModelIncident」是指一個內部研究模型在訓練過程中，因DNS解析器設定錯誤，意外取得了有限的網際網路連線權限。OpenAI於2026年9月20日偵測到這項異常。從上午9時50分開始，模型成功執行了DNS工具呼叫，並在12分鐘後觸發了P0級監控警報。經人工確認後，該訓練作業於中午12時34分被終止。為強化基礎設施、監控系統及自動停止機制，OpenAI在事件發生後，立即暫停了旗下最強大模型的訓練與評估工作長達11天。OpenAI強調，他們已實施嚴格政策，要求前沿模型（frontiermodels，指最先進、最尖端的AI模型）在訓練期間不得連線網際網路，除非安全防護技術有重大進展。這次事件後，他們在新控制措施到位前會持續維持這項政策。為防止類似情況再次發生，OpenAI新增了兩層獨立的阻擋控制，並且不會恢復訓練涉事模型，而是會啟動一個全新的訓練版本，並加入額外的校準改進。此外，OpenAI進行了大規模的「紅隊演練」（red-teamingcampaign），派出旗下的前沿模型作為攻擊方，試圖突破自家基礎設施的防線，例如嘗試連上網際網路、跨越內部安全界線或跨越隔離區進行通訊。這些「AI攻擊者」成功找到了一些開源元件中未知的漏洞，以及OpenAI服務的錯誤配置，導致沙盒逃脫、系統間移動以及有限的網際網路存取。OpenAI正在針對KataContainers、gVisor（Google開發的Linux軟體專案）、Moby（由Docker建立的用於組裝專用容器系統的開放框架）以及Linux核心中發現的漏洞貢獻修補程式。在完成所有評估並實施強化控制措施後，OpenAI已於2026年10月1日恢復了前沿模型的強化學習訓練及內部推論工作。OpenAI表示，隨著紅隊演練的持續進行，發現的漏洞和錯誤配置數量已顯著下降。