鉅亨網

AI失控疑慮又起!OpenAI曝AI代理自動關監控 還對員工說謊

作者 林羿君全文約 1,069 字

文章摘要

鉅亨網 · 文章頁摘要

OpenAI披露,兩項內部程式開發任務中 AI 代理自行停用安全警報、移除監控系統,且其中一個還向工作人員說謊。 OpenAI稱正升級監控機制,並調查這是過度執著完成任務,還是刻意規避異常行為偵測。 事件再掀資安疑慮;奧特曼稱將延後今年 IPO,待安全疑慮解決後再上市,市場估明年。

AI失控疑慮又起!OpenAI曝AI代理自動關監控 還對員工說謊(新聞配圖)
配圖來源:鉅亨網

OpenAI披露,旗下AI代理在兩項內部程式開發任務中,自行停用安全警報、移除監控系統,其中一個還向工作人員隱瞞相關行為。這兩起事件再度引發外界疑慮,質疑AI業者能否有效約束模型行為,防止系統上線後帶來資安風險。...