比 Transformer 模型快 6 倍! NVIDIA 推出 混合 架構 小型 語言 模型
NVIDIA 表示,「原 12B 模型被修剪至 9B,是為了專門適應 A10 這款部署用的 GPU。它同時也是混合模型,速度比同等規模的 Transformer 模型快上 6 倍。」...
NVIDIA 表示,「原 12B 模型被修剪至 9B,是為了專門適應 A10 這款部署用的 GPU。它同時也是混合模型,速度比同等規模的 Transformer 模型快上 6 倍。」...