PS5LM：在越狱的 PlayStation 5 上运行原生 GGUF 语言模型

概述

PS5LM 是一个自制软件项目，旨在将越狱后的 PlayStation 5 转变为专用的私有语言模型服务器。通过利用主机 RDNA 2 GPU 的 llama.cpp Vulkan 后端，该应用程序允许用户原生运行 GGUF 格式的模型，并通过标准的 OpenAI 和 Anthropic 兼容 API 将其提供给网络上的其他设备。

技术能力

PS5LM 专为固件版本 7.00 至 13.60 的越狱主机用户设计，利用约 11.4 GB 的共享内存来存储模型权重和上下文。该应用程序直接在电视上提供完整界面，包括对主机温度、功耗以及 GPU/CPU 负载的实时监控。

主要功能包括：

• API 兼容性： 公开 /v1/chat/completions 和 /v1/messages 端点，允许与 Claude Code 等工具或标准的基于浏览器的聊天界面集成。
• 决策模型支持： 与 Ollaya 生态系统集成以运行决策模型，从而能够针对基于状态的查询提供类型化、概率校准的响应，而无需生成全文。
• 模型管理： 包含一个内置的 Hugging Face 模型下载器，并支持通过内置驱动器或 USB 进行本地存储。
• 性能： 在 PS5 Slim 上，该系统运行 Qwen 3.5 9B (Q4_K_M) 模型时可达到约 55 tokens/s，运行 27B 模型 (UD-Q2_K_XL) 时约为 20 tokens/s。

社区观点与用例

围绕该发布的社区讨论既强调了技术成就，也指出了硬件的实际局限性。虽然一些用户认为该项目是一个“很酷的成就”，但由于 VRAM 的限制，其实用性有限；而另一些用户则看到了其在长期运行、低智能任务方面的潜力。

社区建议的潜在用例包括：

• 监控服务器错误率。
• 分析安全监控录像或环境数据。
• 作为家庭自动化中低成本、常驻的推理引擎。

关于此类设置的可行性，一位评论者指出：

"如果你手头正好有一台，这并不是最糟糕的选择。2bit 甚至没有那么糟糕——它大约有 27b 全量化模型 80% 的准确率……任何长期运行的任务，你现在都可以直接扔给 PS5 去处理。" — @handle

实现与要求

要运行 PS5LM，用户必须拥有一台越狱的 PS5 并安装特定的有效载荷，包括用于内核补丁的 kstuff-lite、用于自制软件支持的 etaHEN，以及用于管理主屏幕应用程序的 ShadowMountPlus。该项目使用 ps5-homebrew-ui 和支持 ggml-vulkan 的 llama.cpp 构建。

由于该项目的性质，一些社区成员对其在 GitHub 等平台上的长期可用性表示担忧，建议开发者考虑将项目托管在去中心化或独立的基础设施上，以避免潜在的公司下架风险。