Liquid AI 發表 LFM2.5 開源模型 助企業建構在地 AI 工作流程 - OwlNews

圖／本報資料庫商傳媒｜何映辰／台北報導LiquidAI於本週三宣布釋出LFM2.5-24B-A2B，這是一款專為在筆記型電腦及其他支援硬體上執行AI代理所設計的開源推論模型，旨在建立本地AI工作流程。本地AI工作流程意指讓人工智慧模型直接在用戶自身的裝置上運作，而非依賴雲端伺服器，有助於企業將數據輸入與輸出保留在內部硬體中，提高數據隱私。LFM2.5-24B-A2B這款開源人工智慧模型擁有240億個參數，但在處理每個Token（處理語言的最小單位）時，僅啟動約24.5億個參數。這種設計能有效減少生成回應所需的運算量，同時相較於一般20億參數的模型，對記憶體的需求也更低。此模型的釋出也讓LFM2.5系列模型家族更加完整，該系列規模從2.3億參數涵蓋至240億參數。LiquidAI已在HuggingFace平台上提供LFM2.5基礎版與後續訓練版本，供開發者下載、客製化與部署。新模型將上下文視窗從32,768個Token擴展至131,072個Token，詞彙表也擴大至128,000個Token，特別針對非拉丁語系的Token化處理進行了優化。在預訓練階段，模型訓練資料量從約17兆Token大幅提升至33兆Token，並針對推論、數學、編碼、指令遵循與多語言文本進行額外訓練。最終訓練階段更整合了OpenClaw、HermesAgent、Pi和OpenCode等代理框架的強化學習。該模型在給出最終答案前會生成明確的推論過程，這對多步驟任務有幫助，但會增加Token的生成量。根據《TechRepublic》報導，LiquidAI在多項基準測試中評估了LFM2.5-24B-A2B。在LiveClaw測試中，LiquidAI獲得48.09分，表現優於通義千問（Qwen）的Qwen3.6-35B-A3B模型（38.19分）。在AutomationBench測試中，LiquidAI取得27.69分，遠高於通義千問的8.72分。不過，在SWE-BenchVerified測試中，通義千問以66.20分領先LiquidAI的51.00分。在硬體效能方面，LiquidAI報告LFM2.5-24B-A2B在蘋果（Apple）的M5Max晶片上能達到每秒184個Token的生成速度，而在超微半導體（AMD）的RyzenAIMax+395上則為每秒114個Token。此外，單一輝達（NVIDIA）B300GPU在多個併發請求下，總輸出吞吐量可超過每秒21,000個Token。該模型也支援llama.cpp、MLX、vLLM、SGLang及ONNX等多種軟體框架。對企業而言，於本地執行AI代理能有效協助自動化研究、編碼與文件處理等任務，同時將模型輸入與輸出數據保留在公司內部硬體，解決了雲端AI服務可能引發的數據隱私疑慮。開發者也能透過開源模型進行實驗，而非完全依賴託管式AI服務。然而，實際硬體容量是本地AI的一大限制，團隊在部署前應在目標裝置上測試模型格式與上下文長度，並測量記憶體使用量與回應時間。此外，本地推論並非自動確保整個工作流程的隱私，因為連結外部工具的AI代理仍可能將數據傳輸至裝置外。因此，企業的IT團隊應限制工具存取、保護憑證，並在關鍵行動前取得批准。LiquidAI也強調，年營收超過1000萬美元的公司必須取得單獨的商業授權，因此企業在假設可下載的模型權重代表不受限制的商業用途前，應仔細審閱授權條款。