Newtalk新聞

什麼是混合專家?為何搭載 NVIDIA Blackwell NVL72 運行快十倍

未署名
什麼是混合專家?為何搭載 NVIDIA Blackwell NVL72 運行快十倍(新聞配圖)
配圖來源:Newtalk新聞

當今幾乎所有前沿模型在底層架構中,皆採用模擬人腦效率的混合專家(MoE)模型架構。正如大腦會根據任務啟動特定區域,混合專家模型將工作分配給專門的「專家」,僅針對每個 AI 詞元啟動相關的專家。這使得詞元的產生速度更快、效率更高,而無需成比例地增加運算量。目前最智慧的前 10 大開源模型,均採用混合專...