lmstudio-ai/lms

LM Studio CLI

해결하는 문제

그래픽 사용자 인터페이스 없이도 로컬 AI 모델 서버와 모델 라이프사이클을 제어할 수 있도록 LM Studio를 위한 명령줄 인터페이스(CLI)를 제공합니다.

작동 방식

lms 도구는 LM Studio 애플리케이션의 컨트롤러 역할을 합니다. 로컬 API 서버를 시작하거나 중지하고, 다운로드된 모델 목록을 확인하며, 특정 모델을 메모리에 로드하거나 언로드하여 추론을 수행할 수 있으며, 디버깅을 위해 로그를 스트리밍할 수 있습니다.

대상 사용자

터미널 기반 워크플로우를 선호하거나 스크립트를 통해 로컬 LLM 관리를 자동화하고자 하는 개발자 및 고급 사용자.

주요 기능

  • 서버 제어: 로컬 API 서버를 빠르게 시작하거나 중지.
  • 모델 관리: 최대 GPU 가속을 지원하는 옵션으로 모델을 로드, 언로드, 목록 조회.
  • 모델 가시성: 현재 메모리에 로드되어 추론에 사용 가능한 모델을 확인.
  • SDK 통합: LM Studio SDK를 사용하여 새로운 프로젝트를 생성.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트