科技新報OpenAI 建 Control Room 能 35 秒內切斷研究模型輸出，避免 AI 代理失控
署名 TechNews 編輯台全文約 742 字
文章摘要
科技新報 · 文章頁摘要OpenAI 今日宣布，研究基礎設施部署「Control Room」集中管控系統，一旦出現安全或資安疑慮，可在決定介入後 35 秒內阻止研究模型繼續產生輸出，等於為 AI 安裝「緊急停止開關」。OpenAI 表示，模型愈強風險愈高，能及早偵測問題並迅速叫停模型變得越關鍵。 Control Room串...
OpenAI 今日宣布，研究基礎設施部署「Control Room」集中管控系統，一旦出現安全或資安疑慮，可在決定介入後 35 秒內阻止研究模型繼續產生輸出，等於為 AI 安裝「緊急停止開關」。OpenAI 表示，模型愈強風險愈高，能及早偵測問題並迅速叫停模型變得越關鍵。...