NVIDIA 推 Nemotron 3.5 Super VL,1200億參數可在 DGX Spark 本機執行
署名 AI頻道/綜合報導
文章摘要
自由時報 · 文章頁摘要〔AI頻道/綜合報導〕NVIDIA於 10月15日發表開放權重多模態模型 Nemotron 3.5 Super VL,總參數達1200億,每次推論約啟用120億參數,支援最高100萬 token 上下文,主打長時間執行的 AI 代理與企業自動化工作。這款模型可處理文字、圖片、文件及影片內容,並具備推理、程式開發與工具呼叫能力。NVIDIA 同時推出較小型的 Nemotron 3.5 Bolt 系列,讓部分 AI 代理任務能直接在配備24GB記憶體的本機設備上執行。Nemotron 3.5 Super VL 完整名稱為 NVIDIA-Nemotron-3.5-Super-VL-120B-A12B,採用混合專家(MoE)架構,結合 Mamba-2、Transformer 注意力層與 C-RADIO 視覺編碼器。模型以 Nemotron 3 Super 為基礎,並透過規模更大的 Nemotron 3 Ultra 進行知識蒸餾,在減少推論運算量的同時保留複雜任務處理能力。官方將其定位於需要反覆讀取資料、分析文件及操作工具的長程代理工作。

原站閱讀
全文請至原站閱讀。