DeepSeek 開源 DeepInfer 達成深度軟硬整合,以加速部署終端推理為目標
作者 拓墣產研
文章摘要
科技新報 · 文章頁摘要DeepSeek 10 月宣布開源推論框架 DeepInfer,整合先前開源的 TileLang 編譯工具及推理算子庫,並採用 Apache 2.0 協定。硬體面 DeepInfer 可同時支援 NVIDIA 與華為昇騰 950 NPU,使 DeepSeek-V4.1-Flash 模型可實現離線推論...

原站限制讀取
原站的存取限制使本站無法取得正文。
DeepSeek 10 月宣布開源推論框架 DeepInfer,整合先前開源的 TileLang 編譯工具及推理算子庫,並採用 Apache 2.0 協定。硬體面 DeepInfer 可同時支援 NVIDIA 與華為昇騰 950 NPU,使 DeepSeek-V4.1-Flash 模型可實現離線推論...

原站的存取限制使本站無法取得正文。