Cool3c 癮科技

NVIDIA Hopper架構TensorRT-LLM使生成式AI推論提升近3倍,H200藉HBM3e記憶體散熱打破MLPerf推論紀錄

作者 Chevelle.fu

<div class="deputation"><img src="https://sw.cool3c.com/user/29442/2024/998a82e6-4ce6-48f2-9739-05ec4e6c44ac.jpg?auto=compress&fix=max&w=2560"></div><...