iThomeAnthropic開源FlashProve，以密碼學驗證AI模型未遭掉包
作者 陳曉莉全文約 811 字
文章摘要
iThome · 文章頁摘要Anthropic開源驗證系統FlashProve，利用零知識證明技術，讓使用者不必取得模型權重，就能透過密碼學驗證AI回答是否來自指定模型，查驗服務供應商是否暗中替換模型，或AI回答是否遭到竄改
Anthropic AI新創Anthropic周一（11/2）發表FlashProve，這是一套利用零知識證明（Zero-Knowledge Proof）技術開發的開源系統，可透過密碼學驗證AI回答是否確實來自指定模型，以偵測服務供應商是否私下替換模型，或遭駭客竄改輸出內容，同時不必公開模型權重等商...