「FlashProve」的搜尋結果
#FlashProve也是一個關鍵字標籤
過去 3 天有 3 篇標成這個標籤 · 目前不在排行榜上
過去 3 天每小時篇數
11/6（五）
Anthropic推FlashProve開源工具 助驗證AI模型身分
商傳媒｜何映辰／台北報導 為提升人工智慧（AI）模型的透明度與可信度，美國 AI 新創公司 Anthropic […]
民生電子報11/5（四）
Anthropic推FlashProve開源工具 助驗證AI模型身分 - AMM 娛樂新聞
圖／示意圖 商傳媒｜何映辰／台北報導 為提升人工智慧（AI）模型的透明度與可信度，美國 AI 新創公司 Ant […] The post Anthropic推FlashProve開源工具 助驗證AI模型身分 first appeared on AMM 娛樂新聞.
Anthropic推FlashProve開源工具 助驗證AI模型身分
圖／示意圖商傳媒｜何映辰／台北報導為提升人工智慧（AI）模型的透明度與可信度，美國 AI 新創公司 Anthropic 於週三（11月4日）發布了一款名為 FlashProve 的開源系統。該工具旨在透過密碼學技術，讓使用者能夠驗證 AI 模型的回應是否確實來自開發者所宣稱的模型，解決當前 AI 服務中的信任挑戰。 Anthropic 指出，目前使用者在使用 AI 模型時，幾乎沒有方法能確認回應是否來自特定模型。AI 服務供應商可能會基於成本考量，秘密將請求導向較便宜、能力較弱的模型，或是模型本身遭惡意竄改。這類不透明的實務操作，不僅損害使用者信任，也可能導致 AI 服務無法如預期般運作。 FlashProve 系統基於 Anthropic 研究團隊的「可證明推論」（Provable Inference）方法，核心採用了零知識證明（zero-knowledge proof）這類密碼學技術。簡單來說，它會在 AI 每次生成回應時，附帶一個簡短的加密證明。這個證明能讓使用者在自己的裝置上快速驗證該回應的來源，且過程中無需揭露模型的專有權重（即模型內部運作的機密數據），即使運算資源有限也能進行驗證。 Anthropic 已在 GitHub 上免費分享了 FlashProve 的技術規格與部分工作程式碼，並以 Apache 2.0 開源授權發布。不過，該公司也強調，FlashProve 仍處於早期研究階段，並非一個已完成的產品，並鼓勵外部開發者參與測試與改進。這項技術的潛在應用廣泛，從消費者產品到企業內部安全，都能用於獨立驗證所使用的 AI 模型是否符合預期，對於提升 AI 系統的透明度與問責制具有重要意義。
AMM娛樂新聞
商傳媒
蕃新聞11/4（三）
Anthropic 公開 FlashProve 研究原型，以密碼學證明 AI 回應出自哪個模型
Anthropic 的 Frontier Red Team 公開由 Claude 改進的零知識證明系統 FlashProve，讓使用者在看不到權重的情況下，也能確認回應出自服務商承諾的模型；以每張 GPU 換算，證明所需的 GPU 時間約為一般推論的 70 至 95 倍。本文依官方研究文章與 GitHub 文件，拆解它的運作方式、和既有系統的差距，以及離實際部署還差哪些限制。#人工智慧,Anthropic,人工智慧,AI,密碼學,Anthropic,模型驗證,FlashProve (anthropic-flashprove-provable-inference)
Anthropic開源FlashProve，以密碼學驗證AI模型未遭掉包
Anthropic開源驗證系統FlashProve，利用零知識證明技術，讓使用者不必取得模型權重，就能透過密碼學驗證AI回答是否來自指定模型，查驗服務供應商是否暗中替換模型，或AI回答是否遭到竄改
如何確定回答的 AI 就是你付費的模型？Anthropic 推 FlashProve 以密碼學驗明「真身」
使用者問 AI 時，如何確定回答的真是自己選擇的模型？Anthropic 2 日發表研究文章，公開名為 FlashProve 的開源原型系統，以密碼學「可證明推論」（provable inference）技術，讓使用者就算看不到模型權重也能驗證回覆確實出自特定模型。 Anthropic 指出，使用者...
Anthropic is working on a system to prove AI models' identi…
Called FlashProve, the system would let anyone check that an AI response really came from the model it claims to be from.
INSIDE
iThome
科技新報
TechCrunch