TechOrange 科技報橘AI 算力戰轉向「記憶體壓縮」：Google 出手發表 TurboQuant 演算法，如何重構 AI 推論成本？
作者 廖紹伶
<p>當 AI 產業仍在比拼誰能打造更大模型、更強算力時，Google 正從另一條路徑突圍。近期 Google Research 發表全新演算法 TurboQuant，主打透過極端壓縮 AI 模型在推論過程中的記憶體使用，將關鍵的記憶體需求降低約 6 倍，同時讓注意力計算速度提升最高 8 倍。...
<p>當 AI 產業仍在比拼誰能打造更大模型、更強算力時，Google 正從另一條路徑突圍。近期 Google Research 發表全新演算法 TurboQuant，主打透過極端壓縮 AI 模型在推論過程中的記憶體使用，將關鍵的記憶體需求降低約 6 倍，同時讓注意力計算速度提升最高 8 倍。...