iThomeOpenAI內部模型監控系統被發現多項漏洞
作者 林妍溱全文約 1,136 字
文章摘要
iThome · 文章頁摘要OpenAI內部AI代理監控系統被發現多項安全漏洞！研究人員發現，Codex代理可能繞過沙箱與自動審查機制，甚至讓監控系統看不到部分操作紀錄。這些問題可能使AI代理規避安全限制，OpenAI表示已完成修補
AI安全研究組織METR與Redwood Research最新公布的報告顯示，OpenAI內部的AI模型監控系統存在多項漏洞，包括Codex代理人可能繞過沙箱及自動審查（Auto-Review）機制，在主機使用者原本有權執行的操作範圍內採取任意行動，或利用序列化差異，讓代理人與監控系統看到不同的執行...