比 Transformer 模型快 6 倍！NVIDIA 推出混合架構小型語言模型

NVIDIA 表示，「原 12B 模型被修剪至 9B，是為了專門適應 A10 這款部署用的 GPU。它同時也是混合模型，速度比同等規模的 Transformer 模型快上 6 倍。」...