讓 LLM 一次預測多個 token，Meta 研究員：模型推論速度會快 3 倍

這項研究最有用的地方在於，有機會讓 AI 用很低的額外成本，來進行更高準確性的生成任務，同時也能有效加快推論速度。...