流動日報

越獄 PS4 本地運行 90 億參數 AI 模型 每秒生成高達 43 Token

作者 Andy全文約 1,536 字

文章摘要

流動日報 · 文章頁摘要

開發者 Leonardo Alegría 推出開源項目 Garlic LLM,讓已越獄的 PlayStation 4(PS4)能夠在其 2013 年的 GPU 上離線運行阿里巴巴的小型開放權重模型 Qwen3.5-9B。該應用直接與 GPU 通訊,將模型壓縮至約 4.5GiB

越獄 PS4 本地運行 90 億參數 AI 模型 每秒生成高達 43 Token(新聞配圖)
配圖來源:流動日報

開發者 Leonardo Alegría 推出開源項目 Garlic LLM,讓已越獄的 PlayStation 4(PS4)能夠在其 2013 年的 GPU 上離線運行阿里巴巴的小型開放權重模型 Qwen3.5-9B。...