PS5LM: 탈옥된 PlayStation 5에서 네이티브 GGUF 언어 모델 실행하기

개요

PS5LM은 탈옥된 PlayStation 5를 전용 개인 언어 모델 서버로 변환하는 홈브류 프로젝트입니다. llama.cpp의 Vulkan 백엔드를 통해 콘솔의 RDNA 2 GPU를 활용함으로써, 이 애플리케이션은 사용자가 GGUF 형식의 모델을 네이티브로 실행하고 표준 OpenAI 및 Anthropic 호환 API를 통해 네트워크상의 다른 장치에 제공할 수 있도록 합니다.

기술적 역량

펌웨어 버전 7.00에서 13.60 사이의 탈옥된 콘솔 사용자를 위해 설계된 PS5LM은 모델 가중치와 컨텍스트를 위해 약 11.4GB의 공유 메모리를 활용합니다. 이 애플리케이션은 콘솔의 발열, 전력 소비, GPU/CPU 부하를 실시간으로 모니터링하는 기능을 포함하여 TV에서 직접 전체 인터페이스를 제공합니다.

주요 기능은 다음과 같습니다:

• API 호환성: /v1/chat/completions 및 /v1/messages 엔드포인트를 노출하여 Claude Code와 같은 도구나 표준 브라우저 기반 채팅 인터페이스와의 통합을 지원합니다.
• 결정 모델 지원: Ollaya 생태계와 통합되어 결정 모델을 실행함으로써, 전체 텍스트를 생성하지 않고도 상태 기반 쿼리에 대해 유형화되고 확률이 보정된 응답을 가능하게 합니다.
• 모델 관리: Hugging Face 모델을 위한 내장 다운로더를 포함하며, 내부 드라이브나 USB를 통한 로컬 스토리지를 지원합니다.
• 성능: PS5 Slim에서 Qwen 3.5 9B (Q4_K_M) 모델의 경우 초당 약 55 토큰, 27B 모델 (UD-Q2_K_XL)의 경우 초당 약 20 토큰의 성능을 달성합니다.

커뮤니티 관점 및 사용 사례

이번 릴리스를 둘러싼 커뮤니티 토론은 하드웨어의 기술적 성과와 실질적인 한계를 모두 강조하고 있습니다. 일부 사용자는 VRAM 제약으로 인해 유용성이 제한적인 "멋진 성과"로 프로젝트를 평가하는 반면, 다른 사용자들은 장시간 실행되는 저지능 작업에 대한 잠재력을 보고 있습니다.

커뮤니티에서 제안한 잠재적 사용 사례는 다음과 같습니다:

• 서버 오류율 모니터링.
• 보안 영상 또는 환경 데이터 분석.
• 홈 자동화를 위한 저비용 상시 가동 추론 엔진 역할.

이러한 설정의 타당성에 관해 한 댓글 작성자는 다음과 같이 언급했습니다:

"집에 하나 굴러다니고 있다면 세상에서 가장 나쁜 선택은 아닙니다. 2bit도 그렇게 나쁘지 않아요. 27b 풀 퀀트 대비 약 80%의 정확도를 보여줍니다... 이제 장시간 실행되는 작업은 그냥 PS5에 맡기면 됩니다." — @handle

구현 및 요구 사항

PS5LM을 실행하려면 사용자는 탈옥된 PS5를 보유해야 하며, 커널 패치를 위한 kstuff-lite, 홈브류 지원을 위한 etaHEN, 홈 화면에서 애플리케이션을 관리하기 위한 ShadowMountPlus를 포함한 특정 페이로드를 설치해야 합니다. 이 프로젝트는 ps5-homebrew-ui와 ggml-vulkan 지원이 포함된 llama.cpp를 사용하여 구축되었습니다.

프로젝트의 특성상 일부 커뮤니티 구성원들은 GitHub와 같은 플랫폼에서의 장기적인 가용성에 대해 우려를 표명하며, 잠재적인 기업의 삭제 조치를 피하기 위해 개발자들이 탈중앙화되거나 독립적인 인프라에 프로젝트를 호스팅하는 것을 고려해야 한다고 제안했습니다.