OpenAI開放4家外部機構進駐,深入檢驗AI模型安全性
作者 陳曉莉全文約 930 字
文章摘要
iThome · 文章頁摘要OpenAI找來Apollo Research、METR等4家獨立機構,深入調查AI模型是否可能欺騙人類、暗中違背開發者意圖,以及現有監控機制能否及時發現異常行為

OpenAI周一(11/16)宣布,啟動第一階段嵌入式評估(Embedded Assessments),與4家獨立機構合作,讓外部專家深入OpenAI內部,檢驗AI模型的安全性及防護機制。 有別於一般透過API測試模型的外部評估,此一計畫將依照評估需求,開放專家存取尚未發布的AI模型、原始程式碼、訓...