越狱 PS5 变身本地 AI 服务器：Qwen3.8-27B 跑出约 20 tok/s，小模型破百

发生了什么

基础项目 PS5LM 由开发者 Mert Cobanov 发起，把 llama.cpp 移植到越狱的 PS5 上。第一版以 CPU payload 的形式运行在主机的 8 核 Zen 2 CPU 上，可用内存只有约 6 GiB；27B 模型在 CPU 上只能达到约每分钟 1 token，基本无法对话。

转折来自分支 PS5LM Plus（开发者 abhi245y，Reddit 用户 u/AdIllustrious7246 发帖介绍）。它把移植打包成原生主机应用，通过社区移植的 Mesa RADV 驱动（PS5_Vulkan）走 Vulkan 计算管线调起 GPU，可用内存一举提到约 11.4–12 GiB。项目还带电视端仪表盘（显示生成速度、硬件占用、温度、内存分配）和聊天界面；同一局域网的手机或电脑可通过浏览器，或经 OpenAI/Anthropic 兼容 API 调用——Claude Code 这类 coding 工具也能把它当成本地服务器。

数字来自开发者自报、多家媒体交叉：Qwen3.8-27B 用约 2-bit 的重度量化（IQ2_XXS，权重约占 6.8GB）跑出约 20–21 tok/s；Gemma 4 E4B 约 61 tok/s；Llama 3.2 3B 约 124 tok/s。测试中 GPU 占用 100%、CPU 仅 2%，整机功耗约 86W，温度约 54°C。需要说明的是，64K 上下文下内存占用达 91%，长 prompt 的处理速度偏慢是已知短板。

关键事实

门槛与代价：这仍是面向越狱硬件的 homebrew 实验，不是索尼的官方功能。需要固件版本不高于 13.60 的 PS5 并安装越狱 payload；越狱会失去保修，还可能导致在线游戏账号被封。两个仓库均为 GPL 系列协议，声明不含索尼 SDK 文件、密钥、固件和模型权重，与索尼无关。

热度：项目在 Reddit r/artificial 24 小时内冲上板块热门（据社区聚合数据约 900 upvotes），Hacker News 相关帖子获得 300+ points；10 月 14 日至 18 日，pbxscience、timesofai、alextech.ai、back2gaming 等多家媒体跟进报道。有评论把 PS5 的 16GB GDDR6（448GB/s 带宽）与桌面级推理硬件对比——一台没为 AI 设计过的游戏机，如今跑分进入了桌面级区间。