科技新報

OpenAI、Google 影像生成模型防線失守?研究團隊用免費工具就能繞過安全過濾

署名 TechNews 編輯台全文約 689 字

文章摘要

科技新報 · 文章頁摘要

研究人員警告,OpenAI 與 Google 最新一代 AI 影像生成模型在防堵露骨內容方面,可能比外界預期更脆弱。安全研究團隊 White Circle 近日指出,他們利用市面上可取得的工具與 API 呼叫,透過一套名為 RISE 的攻擊方法,成功繞過多款模型的安全過濾,生成露骨內容的成功率約為 ...

OpenAI、Google 影像生成模型防線失守?研究團隊用免費工具就能繞過安全過濾(新聞配圖)
配圖來源:科技新報

研究人員警告,OpenAI 與 Google 最新一代 AI 影像生成模型在防堵露骨內容方面,可能比外界預期更脆弱。安全研究團隊 White Circle 近日指出,他們利用市面上可取得的工具與 API 呼叫,透過一套名為 RISE 的攻擊方法,成功繞過多款模型的安全過濾,生成露骨內容的成功率約為...