iThomeOpenAI將不再在連網環境下訓練頂尖AI模型
作者 林妍溱全文約 961 字
文章摘要
iThome · 文章頁摘要OpenAI決定讓頂尖AI模型改採離線方式進行強化學習訓練，並加強紅隊演練及多層防護，防止AI代理再次突破安全隔離機制
在接連AI代理人出現偏差（misalignment）行為後，OpenAI上周宣布，未來將採取離線策略，不再於連網環境下訓練頂尖AI模型，配合更嚴密的多層防護及紅隊演練，防堵AI再駭入或存取外部網站。 上周研究機構公布OpenAI模型行為監控系統存在漏洞的報告後，OpenAI方面除了修正漏洞外，新增的...