T客邦OpenAI 祭出最強防線！全新「控制室」系統曝光：35 秒內火速停機失控 AI
署名 IFENG全文約 1,200 字
文章摘要
T客邦 · 文章頁摘要OpenAI正式部署全新控制室防禦系統，這套名為控制室的機制能在35秒內強制終止失控智慧體。OpenAI透過主動攔截高風險推論請求，從底層切斷通訊鏈，為前沿研究建立嚴密的自動化安全熔斷...
隨著大型語言模型具備自主規劃、撰寫程式碼與調用外部工具的進階智慧體能力，如何有效約束其行為並防範越獄風險，已成為前沿實驗室不可迴避的嚴肅課題。OpenAI 宣布在內部研發體系正式上線「控制室」機制，跳脫過去事後分析日誌的消極處置，改採從推論源頭直接截斷通訊鏈的主動式熔斷技術。...