奧丁丁新聞

企業AI支出不能只看Token牌價 單次任務成本落差可達百倍 - OwlNews

來源 商傳媒全文約 810 字(含標點)

文章摘要

奧丁丁新聞 · 文章頁摘要

圖/示意圖商傳媒|責任編輯/綜合外電報導企業導入人工智慧(AI)不能再只盯著模型標籤上的Token單價。根據最新發布的DatabricksAIIndex報告指出,企業若僅依賴Token牌價評估支出將產生嚴重誤區,因為「每項任務的實際成本」取決於Token單價加上模型推導出答案所需的總工作量,兩者相乘才是真實開銷。根據外媒《CIODive》引述該報告數據,OpenAI的GPT-6Luna與Anthropic的ClaudeOpus5.5雖然達成相同的89.1%任務成功率,但每項任務的平均成本分別為0.05美元與1.62美元;更極端的是,單一Token標價偏低的Gemini3.8Flash,卻因需執行大量工作才能產出結果,每項任務花費高達11.97美元,成本反而飆高逾百倍。這項趨勢凸顯出多模型策略的重要性。隨著高德納諮詢公司(Gartner)預估全球終端用戶在AI模型與平台的支出將在2026年達到640億美元、年增達63%,企業面臨的預算控管壓力與日俱增。除了模型挑選,企業內部極度不均勻的用量分佈也推升了管理難度。數據顯示,企業一般員工每日平均僅花費2.49美元的AI資源,但前1%的重度使用者(第99百分位數)每日花費高達699.74美元。微軟企業副總裁暨科技與AI資訊長TalSaraf在官方部落格指出,部分團隊往往由極少數人消耗了絕大多數的Token。微軟建議掌管企業IT策略與預算調配的CIO(資訊長),應依應用程式、工作流程、AI代理(Agent)及個別使用者追蹤用量,採行類似雲端財務維運(FinOps)的預算管理模式。TalSaraf強調,掌握誰在消耗最多Token以及使用何種模型,目的並非阻擋員工使用,而是指導員工在正確的任務上選用合適的模型,以確保AI投資能轉化為實際商業效益。

企業AI支出不能只看Token牌價 單次任務成本落差可達百倍 - OwlNews(新聞配圖)
配圖來源:奧丁丁新聞

企業導入人工智慧(AI)不能再只盯著模型標籤上的 Token 單價。根據最新發布的 Databricks AI Index 報告指出,企業若僅依賴 Token 牌價評估支出將產生嚴重誤區,因為「每項任務的實際成本」取決於 Token 單價加上模型推導出答案所需的總工作量,兩者相乘才是真實開銷。...