輝達 CUDA 神話沒 鬆動? SemiAnalysis 轉讚 vLLM、 AMD 追趕的 不只是 硬體
署名 鉅亨網編譯莊閔棻
SemiAnalysis 最新分析指出,輝達在開源推理引擎 vLLM 的最佳化表現仍明顯領先 AMD,尤其在大型 MoE 模型推理與 NVLink 互聯架構上展現優勢。報告認為,AI 競爭焦點正從 GPU 硬體轉向軟體生態,CUDA、Tens...
SemiAnalysis 最新分析指出,輝達在開源推理引擎 vLLM 的最佳化表現仍明顯領先 AMD,尤其在大型 MoE 模型推理與 NVLink 互聯架構上展現優勢。報告認為,AI 競爭焦點正從 GPU 硬體轉向軟體生態,CUDA、Tens...