科技新報

DeepSeek 全面開源推理框架 DeepInfer 目標大模型普惠

署名 MoneyDJ全文約 585 字

文章摘要

科技新報 · 文章頁摘要

綜合中媒報導,DeepSeek 20 日宣布,在先前開源一系列大模型、TileLang 編譯工具及推理算子庫的基礎上,決定進一步將內部推理框架 DeepInfer 全面開源。 DeepSeek官方表示,大模型的能力邊界由模型本身劃定,但如何以合理成本提供超大規模的模型服務,還取決於一個長期未被公眾了...

DeepSeek 全面開源推理框架 DeepInfer  目標大模型普惠(新聞配圖)
配圖來源:科技新報

綜合中媒報導,DeepSeek 20 日宣布,在先前開源一系列大模型、TileLang 編譯工具及推理算子庫的基礎上,決定進一步將內部推理框架 DeepInfer 全面開源。 DeepSeek官方表示,大模型的能力邊界由模型本身劃定,但如何以合理成本提供超大規模的模型服務,還取決於一個長期未被公眾了...