把省錢方法公開!DeepSeek推DeepInfer 企業有望更便宜跑AI
作者 段智恆全文約 785 字
文章摘要
鉅亨網 · 文章頁摘要DeepSeek周二開源推論軟體DeepInfer,供企業、雲端與模型代管業者降低運算成本。 DeepInfer目前支援V4.1-Flash,整合分散式推論等技術,強調提升速度與晶片效率。 若推論成本下降,代管業者利潤率或改善,部分節省也可能反映在客戶價格。

中國AI業者DeepSeek周二(20日)宣布,開源用於大規模運行旗下模型的軟體DeepInfer,讓企業、雲端與模型代管業者有機會採用其降低運算成本的方法。這套工具旨在加快模型運行速度、提高運算資源使用效率,但目前尚無獨立效能測試,能驗證其實際改善幅度。...