「DeepInfer」的搜尋結果
#DeepInfer也是一個關鍵字標籤
過去 31 天有 4 篇標成這個標籤 · 目前不在排行榜上
10/29（四）
新浪新聞
10/22（四）
DeepSeek 開源 DeepInfer：正式服務用的推論引擎首度公開，同時支援 Blackwell 與昇騰 950
DeepSeek 開源 DeepInfer 的消息，在 10 月 20 日當天就讓這個 GitHub 專案累積超過 1.2 萬顆星，並在 Hacker News 衝上 2,000 多點。DeepInfer 是 DeepSeek 自家正式服務背後使用的大規模推論框架，採用 Apache 2.0 授權，目前支援
硬是要學10/21（三）
DeepSeek一張GPU每小時創收38美元 推理毛利率估逾95%
DeepSeek開源內部推理框架DeepInfer與deepseek-recipe，支援NVIDIA GPU、華為昇騰NPU。 官方揭露V4.1-Flash單叢集日處理155兆Token，外界推算推理毛利率最高逾95%。 業界認為此舉凸顯AI推理競爭轉向降本增效，但高毛利不等於公司整體獲利。
DeepSeek open-sources new tool to slash costs and ‘battle’…
Chinese artificial intelligence start-up DeepSeek has fully open-sourced an internally developed framework designed to run AI models efficiently, as a senior researcher at the company described the growing divide between open-source and closed-source AI as a battle between “light and darkness”. The company on Tuesday released DeepInfer, an inference framework tailored to support its DeepSeek-V4.1-Flash model on both Nvidia’s SM100 Blackwell graphics processing units (GPUs) and Huawei...
#Artificial intelligence (AI)#DeepSeek#US-China tech war#China#China technology#AI: Companies
DeepSeek 全面開源推理框架 DeepInfer 目標大模型普惠
綜合中媒報導，DeepSeek 20 日宣布，在先前開源一系列大模型、TileLang 編譯工具及推理算子庫的基礎上，決定進一步將內部推理框架 DeepInfer 全面開源。 DeepSeek官方表示，大模型的能力邊界由模型本身劃定，但如何以合理成本提供超大規模的模型服務，還取決於一個長期未被公眾了...
DeepSeek 把 AI 推論框架開源了！揭露單一叢集日處理 155 兆 Tokens 的系統設計
<p>單一叢集每天處理 155 兆 Tokens，DeepSeek 如何配置 GPU 與快取，支撐如此龐大的 AI 服務？中國 AI 新創 DeepSeek 10 月 20 日開源推論框架 DeepInfer，同步揭露自家 V4.1 Flash 大規模推論系統的部署細節。 《Bloomberg》分析，這套軟體有助加快 AI 模型執行、提高運算資源效率，DeepSeek 也表示希望藉此降低業界的運算與能源成本。更值得注意的是，這次開放的不只是模型權重或個別加速工具，而是整合式推論引擎。DeepSeek 究竟多公開了什麼，又如何處理如此龐大的推論需求？ 從開放模型權重到推論引擎，DeepSeek 這次有何不同？ DeepSeek 過去便以開放權重模型聞名，從 DeepSeek-V3、R1 等模型開始，企業與開發者便能自行下載、部署模型，不必完全依賴官方 API。但取得模型權重，不代表就能以同樣的效率提供大規模 AI 服務。 為提高推論效率，DeepSeek 在 2025 年陸續開源 FlashMLA、DeepGEMM、DeepEP 等函式庫，針對注意力機制、矩陣運算及混合專家模型（MoE）的跨 GPU 資料傳輸進行優化。不過，這些主要是解決特定運算環節的元件，而非整套推論引擎。 DeepSeek 曾在 2025 年 4 月的官方文章說明，原本考慮開源完整推論引擎，但因程式碼與內部叢集管理系統高度整合、維護人力有限，決定先分享個別技術。 如今 DeepInfer 則跨出下一步，整合既有加速元件，進一步公開模型執行、平行運算、非同步排程與推測式解碼等功能。值得一提的是，DeepInfer 最初建立在開源框架 vLLM 基礎上，也參考 SGLang、TensorRT-LLM […]</p>
DeepSeek 把 AI 推論框架開源了！揭露單一叢集日處理 155 兆 Tokens 的系統設計
單一叢集每天處理 155 兆 Tokens，DeepSeek 如何配置 GPU 與快取，支撐如此龐大的 AI 服務？中國 AI 新創 DeepSeek 10 月 20 日開源推論框架 DeepInfer，同步揭露自家 V4.1 Flash 大規模推論系統的部署細節。
中時新聞網偏藍DeepSeek開源AI推理框架 或能降低算力成本
大陸人工智慧（AI）新創公司深度求索（DeepSeek）宣布開源名為DeepInfer的內部推理框架，協助開發者和企業提高AI模型運行效率，降低算力成本及能源消耗。DeepSeek於20日在微信公眾號宣布，將內部推理框架DeepInfer開
DeepSeek全面開源推理框架DeepInfer 目標大模型普惠
綜合陸媒報導，DeepSeek昨(20)日宣布，在先前開源一系列大模型、TileLang編譯工具及推理算子庫的基礎上，決定進一步將內部推理框架DeepInfer全面開源。DeepSeek官方表示，大模型的能力邊界由模型本身劃定...
美國禁中國AI應用DeepSeek入聯邦系統 中方批過度泛化國安 - 獨家報導
商傳媒｜責任編輯／綜合外電報導 美國政府已下令各聯邦民用機構，禁止使用中國人工智慧（AI）新創公司 DeepS […]
美國禁中國AI應用DeepSeek入聯邦系統 中方批過度泛化國安
商傳媒｜責任編輯／綜合外電報導美國政府已下令各聯邦民用機構，禁止使用中國人工智慧（AI）新創公司 DeepSeek 開發的 AI 工具，並要求從所有資訊科技（IT）系統中移除，包括使用 DeepSeek 技術開發的第三方產品。此舉旨在防範潛在的國安風險。 美國國土安全部（US Department of Homeland Security）於今日發布這項指令，該部在通知中指出，DeepSeek 的模型存在「多重威脅載體」（multiple threat vectors），若美國政府員工或供應商使用，可能導致敏感數據轉移至中國。美國國土安全部表示，DeepSeek 的伺服器位於中國，中國法律賦予政府廣泛權力存取私人公司的基礎設施。此外，有開源安全研究發現 DeepSeek 的 iOS 行動應用程式存在多個關鍵漏洞，模型本身也可能含有惡意軟體或安全漏洞。事實上，美國商務部和美國海軍已於 2025 年禁止使用 DeepSeek，美國國會也早在去年就限制情報界使用 DeepSeek。 中國外交部發言人毛寧今日回應，批評美國此舉是「過度延伸國家安全概念」，並將科學、科技、經濟和貿易議題政治化。她強調，中方將堅決維護中國企業的合法權益。此前，美國曾指控包括 DeepSeek 在內的中國 AI 新創公司，透過大規模「提煉」方式，竊取美國領先 AI 模型的能力，但北京對此予以否認。 面對禁令，DeepSeek 於今日宣布將其內部推論引擎 DeepInfer 開源，並將其描述為大規模運行模型的「高性能推論框架」。此舉旨在幫助全球開發社群降低計算成本、減少能源消耗，並使 AI 技術更為普及。DeepInfer 支援輝達（Nvidia）Blackwell 晶片和華為（Huawei）Ascend 950 AI 加速器，顯示 DeepSeek 致力於在中國硬體上高效運行 AI 模型的能力。DeepSeek 工程師 Cui Tianyi 表示，公司開源 DeepInfer 及 deepseek-recipe 等核心組件，是為了讓全球更多企業和組織能部署並利用這些技術獲利。 儘管美國與中國在 AI 領域競爭激烈，雙方仍維持對話。中國國家主席習近平與總統 川普（Donald Trump）在今年九月會面時，已同意建立 AI 事件的「溝通管道」。兩位領導人預計將於十一月在深圳舉行的亞太經合會（APEC）領袖峰會期間再次會面，AI 議題預料將再次被納入討論議程。 參考來源 US bans use of China’s DeepSeek AI tools by government agenc…（The Guardian） DeepSeek fires back at U.S.federal agency ban as 'overstretc…（Fortune） Roundup: Nonprofit money trail / $5.5B energy deal（Baton Rouge Business Report） U.S. bans AI startup DeepSeek because of 'threat vectors' an…（Fast Company） DeepSeek Dials Up the Pressure on OpenAI and Anthropic With…（Gizmodo） Despite the U.S. Ban, DeepSeek Open-Sources Its Inference En…（Trending Topics） DeepSeek AI tools banned from US government agency systems a…（TechRadar） China defends DeepSeek after US ban of its AI from governmen…（The Washington Post） U.S. government bans Chinese AI app DeepSeek from federal IT…（UPI） US orders DeepSeek purge from federal systems as Chinese AI…（CryptoSlate）
把省錢方法公開！DeepSeek推DeepInfer 企業有望更便宜跑AI
DeepSeek周二開源推論軟體DeepInfer，供企業、雲端與模型代管業者降低運算成本。 DeepInfer目前支援V4.1-Flash，整合分散式推論等技術，強調提升速度與晶片效率。 若推論成本下降，代管業者利潤率或改善，部分節省也可能反映在客戶價格。
鉅亨網
Miin
南華早報
科技新報
TechOrange 科技報橘
MoneyDJ理財網
獨家報導
奧丁丁新聞
商傳媒