Cloudflare 開源 270 億參數決策模型 Clef,API 相容 Jev 搶攻 AI 代理判斷市場
站內可閱讀至 (台北時間)

企業讓 AI 代理接手日常流程後,系統每天要做上萬次「這張工單該給誰」「這個網站是不是詐騙」的判斷。這些工作要的是答得快、格式固定的判斷器,用不上會寫長文的模型。Cloudflare 在 10 月 1 日於官方部落格發表決策模型 Clef,並把 270 億參數的權重以 Apache 2.0 授權放上 Hugging Face,任何人都能免費下載,也能拿來商用。Clef 的 API 與新創 TypeSafe 的決策模型 Jev 相容,原本用 Jev 的開發者幾乎不必改程式就能換用。
Clef 和 ChatGPT 這類聊天模型的用法不同。開發者先提供一份「狀態」,可以是文字、JSON 資料、圖片或影片,再附上事先定義好的問題清單。問題分成是非題(noul)、選擇題(choice)與評分題(score)三種。模型讀完資料,單次運算就替每個問題的每個允許選項打出機率,不產生自由文字。
模型頁的示範是判斷一張發票的狀態,選項只有「已付款」「逾期」「草稿」,模型直接回傳三個選項各自的機率。答案能直接接進後續流程,不會像聊天模型偶爾答非所問。
這類模型的概念由 TypeSafe 帶起。TypeSafe 把 Jev 定位為「System One」模型,專門處理分流、分類、驗證、排序等需要固定答案的環節,並透過 OpenRouter 等平台提供 API。依 OpenRouter 的說明文件,Jev 只對輸入內容計費,輸出不收費。
Cloudflare 則推出 API 相容、開放權重的版本。依模型頁公布的數據,Clef 在函式呼叫測試 BFCL 拿下 98.5 分,高於 Jev 的 95.8 分,API-Bank 測試也以 91.9 分領先 Jev 的 88.2 分。中位延遲為 209.3 毫秒,約是 Jev(524.1 毫秒)的 4 成。不過在考驗廣泛知識的 MMLU-Pro,Clef 只拿 65.9 分,明顯落後 Jev 的 82.7 分。以上皆為 Cloudflare 自行公布的成績,尚待第三方驗證。
Clef 以阿里巴巴的 Qwen3.8-27B 為基礎,外加影像編碼器。另一款 Clef-flash 改用 90 億參數的 Qwen3.5-9B,中位延遲壓到 38.8 毫秒。
Clef 的起點是 Cloudflare 的內部需求。據官方部落格,資安情報團隊要判斷一個網域是電商、時尚網站還是釣魚網站,客服團隊要判斷工單多緊急、該交給誰。機器人管理產品也有同樣需求,得分辨來訪的爬蟲是善意還是惡意。這些判斷量大、選項固定,交給聊天模型處理又慢,格式也難控管。
隨著企業導入 AI 代理,代理在每個步驟都要決定下一步怎麼走。Cloudflare 把 Clef 定位為替代理做這些判斷的元件,需要寫內容的工作仍交給大型語言模型。
Clef 與 Clef-flash 已上架 Cloudflare 的 Workers AI 平台,官方尚未公布價格。模型頁顯示 Clef 在單張 NVIDIA H200 繪圖晶片上完成測試,企業也能自行架設在自家機房。
Cloudflare 同步推出客製化微調服務,先由前置部署工程師團隊協助企業調校模型,之後再開放自助平台。先以開源模型吸引開發者,再靠雲端託管與客製服務收費,是開源商業模式常見的路線。
對 TypeSafe 來說,壓力直接落在定價上。競爭對手的模型免費、相容,還在部分測試勝出,Jev 接下來得靠知識型任務的準確度與服務品質守住客戶。Clef 能否走出 Cloudflare 自家產品、被其他企業採用,Workers AI 的定價會是第一個觀察點。
本文初稿由 INSIDE 使用 AI 協助編撰,並經人工審校確認。精選文章直送,點擊立刻訂閱 INSIDE 電子報!