INSIDEAMD 公布 MLPerf 測試結果！與 NVIDIA 方案不分軒輊
作者 Sisley
AMD 今日宣佈首次 MLPerf 基準測試結果，展示搭載 ROCm 的 MI300X GPU 在大型語言模型 Llama 2 70B 上的推論效能，與 NVIDIA H100 不相上下。AMD 強調其 CPU-GPU 整合效能，並展示單一 MI300X GPU 如何憑藉大容量記憶體高效執行完整模型...
AMD 今日宣佈首次 MLPerf 基準測試結果，展示搭載 ROCm 的 MI300X GPU 在大型語言模型 Llama 2 70B 上的推論效能，與 NVIDIA H100 不相上下。AMD 強調其 CPU-GPU 整合效能，並展示單一 MI300X GPU 如何憑藉大容量記憶體高效執行完整模型...