阿里巴巴找到降低 NVIDIA GPU 使用量減 82% 的新方法「Aegaeon」

實驗中 Nvidia H20 GPU 為例，原本需要 1,192 張 GPU 才能支援的多模型推理任務，經由 Aegaeon 系統優化後僅需 213 張 GPU，整體 GPU 需求下降約 82%。...