1.15 GB 記憶體跑 8B 模型，PrismML 推出全球首款原生 1-bit 商用大型語言模型

PrismML 推出 Bonsai 8B，號稱全球首款商業可用原生 1-bit 大型語言模型。此 8B 參數模型記憶體僅需 1.15 GB，可在手機等邊緣裝置進行本機推理。...