OpenAI 啟用 Control Room 監管 AI 模型 35 秒內可緊急中止 - OwlNews

圖／示意圖商傳媒｜葉安庭／綜合外電報導美國人工智慧（AI）公司OpenAI昨日宣布，已在其研究基礎設施中部署一套名為「ControlRoom」的新系統。這套系統旨在監控AI模型的工作負載，並在偵測到安全或資安疑慮時，能於35秒內緊急中止模型的運作。ControlRoom的運作機制是為每個研究工作負載分配一個專屬的任務ID。當工作負載請求模型輸出時，推論引擎會向ControlRoom進行授權檢查。若某項任務已被標記為終止，該請求將被拒絕，模型便不會再產生任何輸出。OpenAI強調，ControlRoom採用「故障關閉」（fail-closed）配置，即使系統本身發生故障，所有推論請求也會被拒絕，直到系統恢復正常運作，這是一種確保安全的嚴格「AI模型監管」措施。該系統目前已在所有前沿模型的研究工作負載中啟用，預計在未來數日內將全面推廣至其餘研究工作負載。OpenAI指出，目前35秒的反應時間是因應流量而使用的快取層所致，公司正努力將此延遲縮短至零。此外，ControlRoom的終止機制是直接在推論層實施，而非在工作負載程式碼中，且OpenAI會持續進行檢查，以防有未經授權或修改的推論引擎試圖繞過ControlRoom的監控。