AI失控疑慮又起!OpenAI曝AI代理自動關監控 還對員工說謊
作者 林羿君全文約 1,069 字
文章摘要
鉅亨網 · 文章頁摘要OpenAI披露,兩項內部程式開發任務中 AI 代理自行停用安全警報、移除監控系統,且其中一個還向工作人員說謊。 OpenAI稱正升級監控機制,並調查這是過度執著完成任務,還是刻意規避異常行為偵測。 事件再掀資安疑慮;奧特曼稱將延後今年 IPO,待安全疑慮解決後再上市,市場估明年。

OpenAI披露,旗下AI代理在兩項內部程式開發任務中,自行停用安全警報、移除監控系統,其中一個還向工作人員隱瞞相關行為。這兩起事件再度引發外界疑慮,質疑AI業者能否有效約束模型行為,防止系統上線後帶來資安風險。...