【NVIDIA GTC 2025】NVIDIA 推出「AI 加速器」原始碼推理軟體 Dynamo
作者 Chris
在 GB200 NVL72 機架的大型集群上運行 DeepSeek-R1 模型時,NVIDIA Dynamo 的智慧推論優化更能將每個 GPU 生成的 token 數量提高 30 倍以上。...
在 GB200 NVL72 機架的大型集群上運行 DeepSeek-R1 模型時,NVIDIA Dynamo 的智慧推論優化更能將每個 GPU 生成的 token 數量提高 30 倍以上。...