sybil-solutions/local-studio
Control panel for VLLM, Sglang, llama.cpp, exllamav3
Local Studio – セルフホストLLMのためのデスクトップUI
概要
- オープンソースのT3 Codeアプリの薄いフォークであり、自分の大規模言語モデルをローカルで実行するためのファーストクラスのサポートを追加します。
- モデルとチャットし、ツール呼び出しを実行し、スレッドを表示し、ソースコントロールスタイルのセッションを管理できるグラフィカルな「エージェントUI」を提供します。
- マシン上の任意の推論サーバー(vLLM、SGLang、llama.cpp、またはOpenAI互換の
/v1/modelsエンドポイントを公開する任意のサーバー)を検出し、単一のOpenAI/Anthropic互換ゲートウェイの下で再エクスポートするローカルコントローラーをバンドルしています。 - Tailscaleを介してリンクされたマシンのフリートを有効にし、プライベートネットワーク内の任意のコンピューターにロードされたモデルを他のコンピューターから使用でき、Linux/macOSホストへのコントローラーのワンクリックインストールを提供します。
- 人気のあるホスト型モデル(Claude、Cursor、Grokなど)と一緒に実行され、ストリーミング、ツール呼び出し、割り込み、ロールバック、トークン使用量追跡をサポートする追加プロバイダー – Pi と Oh My Pi – を同梱しています。
なぜ重要なのか
- 開発者、研究者、または趣味の人々が、商用AIアシスタントツールに似た洗練されたデスクトップ体験を得ながら、データとモデルを社内に保持できます。
- Tailscaleベースのフリートにより、カスタムネットワーキングコードを書かずに、複数のマシンにわたってGPUリソースをプールすることが容易になります。
- ローカル推論サーバーを標準のOpenAIエンドポイントとして再エクスポートすることで、OpenAI APIを期待する既存のライブラリやツールを変更せずに使用できます。
はじめに
- 最新のGitHubリリースからお使いのOS用のインストーラーをダウンロードします(macOS用DMG、Windows用
.exe、Linux用AppImageまたは.deb)。 - インストーラーを実行します – macOSビルドは署名/公証されています。Windowsビルドは現在SmartScreenの確認が必要です。
- 起動後、デスクトップがローカルコントローラーを検出できるように、少なくとも1つのエージェントCLI(例:
piまたはomp)にログインします。 - 設定 → ローカルを開いて、Tailscaleネットワーク上の他のマシンを確認します。コントローラーがすでに実行されている場合は接続をクリックするか、インストールをクリックしてLocal StudioがLinux/macOSホストにSSH経由でコントローラーを自動インストールします。
- プロバイダー(Pi、Oh My Pi、またはOpenAI互換サーバー)を選択し、チャットを開始するか、スクリプトを実行します。
開発者ワークフロー
- Node 24、pnpm 11、Bun 1.3.14が必要です。
pnpm installで依存関係をインストールします。- コントローラーのみを実行:
pnpm --filter @local-studio/controller start。 - デスクトップを開発モード(ホットリロード)で起動:
pnpm dev:desktop --port 18773 --home-dir .t3。 - 本番用には、ビルドしてから起動:
pnpm build:desktop && T3CODE_HOME="$PWD/.t3" pnpm start:desktop。 - リポジトリは、フォークを軽量に保ち、上流の変更を簡単にマージできるように、4,000行のソース予算(
node scripts/local-check.mjs)を強制します。
リリースプロセス
- CIは、署名付きmacOS DMG、Windows NSISインストーラー、Linux AppImage/
.debパッケージをx64とarm64の両方でビルドします。 - コントローラーバイナリと更新マニフェストも公開されます。
ライセンス
- MITライセンス(上流のT3 Codeプロジェクトと同じ)。追加のOh My Piコンポーネントには、
assets/OMP-LICENSE.txtに独自のライセンスがあります。
結論:Local Studioは、セルフホストLLMのための実用的なオープンソースデスクトップフロントエンドであり、Tailscaleを介した組み込みのマルチマシンフリート管理を備えており、推論スタックを自分の管理下に置きながら、最新のAIアシスタントの便利さを求める人にとって堅実な選択肢です。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト