防堵 AI 遭濫用於兒少性剝削,OpenAI 推出偵測工具並升級 ChatGPT 防護
署名 TechNews 編輯台全文約 714 字
文章摘要
科技新報 · 文章頁摘要OpenAI 11 月 16 日宣布,將進一步強化防堵人工智慧遭濫用於兒少性剝削的措施,內容涵蓋新的影像分類器、ChatGPT 內更嚴格的介入機制,以及提供給開發者與執法人員的支援工具。 這項新工具可辨識疑似兒童性虐待素材(CSAM),也能針對可能由 AI 生成的影像提供額外訊號,協助審查人員優先處...

OpenAI 11 月 16 日宣布,將進一步強化防堵人工智慧遭濫用於兒少性剝削的措施,內容涵蓋新的影像分類器、ChatGPT 內更嚴格的介入機制,以及提供給開發者與執法人員的支援工具。 這項新工具可辨識疑似兒童性虐待素材(CSAM),也能針對可能由 AI 生成的影像提供額外訊號,協助審查人員優先處...