資安業者推開源 AI 模型 可辨識 69 種個資且防禦 Prompt 攻擊 - OwlNews

圖／示意圖商傳媒｜何映辰／台北報導美國資料安全業者Protegrity於昨日宣布推出名為Protegrity-PII的開源權重AI模型，專門用於偵測與分類個人身分識別資訊（PII，即姓名、身分證號或電話等可用來辨識個人的機密資料），涵蓋範圍達69種個資類型。根據外媒《CybersecurityInsiders》報導，Protegrity-PII模型參數量為2.78億，目前已在開源平台HuggingFace上釋出。該模型架構以XLM-RoBERTa為基礎，採用Token層級分類技術來解析文字。這項設計將輸入的文字視為純內容進行分析，而非可執行的指令，因此有助於大幅降低Prompt注入攻擊（PromptInjection，惡意用戶透過輸入特定提示詞誘騙模型忽略安全限制）的風險。為了驗證模型效能，Protegrity同步釋出名為PII-SCOPE的公開基準測試，內含8,030筆涵蓋醫療、金融、保險、零售及政府等產業的資料紀錄。在實際測試中，Protegrity-PII取得0.910的型態召回率（typedrecall）與0.902的精準度，表現超越了市場上的主流方案，包括AWSComprehend、MicrosoftPresidio以及OpenAIPrivacyFilter。在運算效率與成本方面，該模型使用單張RTX6000BlackwellGPU進行運算時，僅需0.49秒即可處理100萬個字元，估計每百萬字元的運算成本約為0.0005美元。企業可將此模型直接部署於內部架構中，就近審查包含Prompt、工具調用（toolcalls）、API與Agent回應等各類生成式AI工作流程，確保敏感數據不出內網。