sybil-solutions/local-studio

Control panel for VLLM, Sglang, llama.cpp, exllamav3

Local Studio – セルフホストLLMのためのデスクトップUI

概要

  • オープンソースのT3 Codeアプリの薄いフォークであり、自分の大規模言語モデルをローカルで実行するためのファーストクラスのサポートを追加します。
  • モデルとチャットし、ツール呼び出しを実行し、スレッドを表示し、ソースコントロールスタイルのセッションを管理できるグラフィカルな「エージェントUI」を提供します。
  • マシン上の任意の推論サーバー(vLLM、SGLang、llama.cpp、またはOpenAI互換の/v1/modelsエンドポイントを公開する任意のサーバー)を検出し、単一のOpenAI/Anthropic互換ゲートウェイの下で再エクスポートするローカルコントローラーをバンドルしています。
  • Tailscaleを介してリンクされたマシンのフリートを有効にし、プライベートネットワーク内の任意のコンピューターにロードされたモデルを他のコンピューターから使用でき、Linux/macOSホストへのコントローラーのワンクリックインストールを提供します。
  • 人気のあるホスト型モデル(Claude、Cursor、Grokなど)と一緒に実行され、ストリーミング、ツール呼び出し、割り込み、ロールバック、トークン使用量追跡をサポートする追加プロバイダー – Pi と Oh My Pi – を同梱しています。

なぜ重要なのか

  • 開発者、研究者、または趣味の人々が、商用AIアシスタントツールに似た洗練されたデスクトップ体験を得ながら、データとモデルを社内に保持できます。
  • Tailscaleベースのフリートにより、カスタムネットワーキングコードを書かずに、複数のマシンにわたってGPUリソースをプールすることが容易になります。
  • ローカル推論サーバーを標準のOpenAIエンドポイントとして再エクスポートすることで、OpenAI APIを期待する既存のライブラリやツールを変更せずに使用できます。

はじめに

  1. 最新のGitHubリリースからお使いのOS用のインストーラーをダウンロードします(macOS用DMG、Windows用.exe、Linux用AppImageまたは.deb)。
  2. インストーラーを実行します – macOSビルドは署名/公証されています。Windowsビルドは現在SmartScreenの確認が必要です。
  3. 起動後、デスクトップがローカルコントローラーを検出できるように、少なくとも1つのエージェントCLI(例:piまたはomp)にログインします。
  4. 設定 → ローカルを開いて、Tailscaleネットワーク上の他のマシンを確認します。コントローラーがすでに実行されている場合は接続をクリックするか、インストールをクリックしてLocal StudioがLinux/macOSホストにSSH経由でコントローラーを自動インストールします。
  5. プロバイダー(Pi、Oh My Pi、またはOpenAI互換サーバー)を選択し、チャットを開始するか、スクリプトを実行します。

開発者ワークフロー

  • Node 24、pnpm 11、Bun 1.3.14が必要です。
  • pnpm installで依存関係をインストールします。
  • コントローラーのみを実行:pnpm --filter @local-studio/controller start。
  • デスクトップを開発モード(ホットリロード)で起動:pnpm dev:desktop --port 18773 --home-dir .t3。
  • 本番用には、ビルドしてから起動:pnpm build:desktop && T3CODE_HOME="$PWD/.t3" pnpm start:desktop。
  • リポジトリは、フォークを軽量に保ち、上流の変更を簡単にマージできるように、4,000行のソース予算(node scripts/local-check.mjs)を強制します。

リリースプロセス

  • CIは、署名付きmacOS DMG、Windows NSISインストーラー、Linux AppImage/.debパッケージをx64とarm64の両方でビルドします。
  • コントローラーバイナリと更新マニフェストも公開されます。

ライセンス

  • MITライセンス(上流のT3 Codeプロジェクトと同じ)。追加のOh My Piコンポーネントには、assets/OMP-LICENSE.txtに独自のライセンスがあります。

結論:Local Studioは、セルフホストLLMのための実用的なオープンソースデスクトップフロントエンドであり、Tailscaleを介した組み込みのマルチマシンフリート管理を備えており、推論スタックを自分の管理下に置きながら、最新のAIアシスタントの便利さを求める人にとって堅実な選択肢です。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト