越獄 PS4 本地運行 90 億參數 AI 模型 每秒生成高達 43 Token
作者 Andy全文約 1,536 字
文章摘要
流動日報 · 文章頁摘要開發者 Leonardo Alegría 推出開源項目 Garlic LLM,讓已越獄的 PlayStation 4(PS4)能夠在其 2013 年的 GPU 上離線運行阿里巴巴的小型開放權重模型 Qwen3.5-9B。該應用直接與 GPU 通訊,將模型壓縮至約 4.5GiB

開發者 Leonardo Alegría 推出開源項目 Garlic LLM,讓已越獄的 PlayStation 4(PS4)能夠在其 2013 年的 GPU 上離線運行阿里巴巴的小型開放權重模型 Qwen3.5-9B。...