lmstudio-ai/lms

LM Studio CLI

何を解決するか

LM Studioのコマンドラインインターフェース(CLI)を提供し、グラフィカルユーザーインターフェース(GUI)を必要とせずに、ローカルAIモデルサーバーとモデルのライフサイクルを制御できるようにします。

動作方法

lms ツールはLM Studioアプリケーションのコントローラーとして機能します。ローカルAPIサーバーの起動・停止、ダウンロード済みモデルのリスト表示、特定モデルのメモリロード・アンロード(推論用)、デバッグ用のログストリーミングを可能にします。

対象ユーザー

ターミナルベースのワークフローを好む開発者やパワーユーザー、またはスクリプトでローカルLLMの管理を自動化したいユーザー。

主な特徴

  • サーバー制御: ローカルAPIサーバーを素早く起動または停止。
  • モデル管理: GPU最適化を最大限に活かしたオプション付きで、モデルのロード・アンロード・リスト表示。
  • モデルの可視性: 現在メモリにロードされているモデルや推論可能なモデルを確認。
  • SDK統合: LM Studio SDKを使用して新しいプロジェクトを作成。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト