1.15 GB 記憶體跑 8B 模型, PrismML 推出 全球首款 原生 1- bit 商用 大型 語言 模型
作者 Sherlock
PrismML 推出 Bonsai 8B,號稱全球首款商業可用原生 1-bit 大型語言模型。此 8B 參數模型記憶體僅需 1.15 GB,可在手機等邊緣裝置進行本機推理。...
PrismML 推出 Bonsai 8B,號稱全球首款商業可用原生 1-bit 大型語言模型。此 8B 參數模型記憶體僅需 1.15 GB,可在手機等邊緣裝置進行本機推理。...