sybil-solutions/local-studio

Control panel for VLLM, Sglang, llama.cpp, exllamav3

Local Studio – 自托管 LLM 的桌面 UI

是什么

  • 开源 T3 Code 应用程序的一个精简分支,为本地运行自己的大语言模型添加了一流支持。
  • 提供图形化的“代理 UI”,您可以与模型聊天、运行工具调用、查看线程并管理类似源代码控制的会话。
  • 捆绑了一个本地控制器,可发现机器上的任何推理服务器(vLLM、SGLang、llama.cpp 或任何公开 OpenAI 兼容 /v1/models 端点的服务器),并在统一的 OpenAI/Anthropic 兼容网关下重新导出。
  • 支持通过 Tailscale 连接的机器集群,因此私人网络中任何计算机上加载的模型都可以从任何其他计算机使用,并支持在 Linux/macOS 主机上一键安装控制器。
  • 附带额外提供程序 – Pi 和 Oh My Pi – 与流行的托管模型(Claude、Cursor、Grok 等)一起运行,并支持流式传输、工具调用、中断、回滚和令牌使用跟踪。

为什么重要

  • 让开发者、研究人员或爱好者可以将数据和模型保留在内部,同时获得类似于商业 AI 助手工具的精致桌面体验。
  • 基于 Tailscale 的集群使跨多台机器池化 GPU 资源变得容易,而无需编写自定义网络代码。
  • 通过将本地推理服务器重新导出为标准 OpenAI 端点,期望 OpenAI API 的现有库和工具可以原封不动地使用。

开始使用

  1. 从最新的 GitHub 版本下载适用于您的操作系统的安装程序(macOS 使用 DMG,Windows 使用 .exe,Linux 使用 AppImage 或 .deb)。
  2. 运行安装程序 – macOS 版本已签名/公证;Windows 版本目前需要 SmartScreen 确认。
  3. 启动后,登录至少一个代理 CLI(例如 pi 或 omp),以便桌面可以发现本地控制器。
  4. 打开设置 → 本地以查看 Tailscale 网络上的其他机器。如果控制器已在运行,请单击连接,或单击安装让 Local Studio 在 Linux/macOS 主机上通过 SSH 自动安装控制器。
  5. 选择提供程序(Pi、Oh My Pi 或任何 OpenAI 兼容服务器)并开始聊天或运行脚本。

开发者工作流程

  • 需要 Node 24、pnpm 11 和 Bun 1.3.14。
  • 使用 pnpm install 安装依赖项。
  • 单独运行控制器:pnpm --filter @local-studio/controller start。
  • 在开发模式下启动桌面(热重载):pnpm dev:desktop --port 18773 --home-dir .t3。
  • 对于生产使用,请构建然后启动:pnpm build:desktop && T3CODE_HOME="$PWD/.t3" pnpm start:desktop。
  • 存储库强制执行 4,000 行的源预算(node scripts/local-check.mjs),以保持分支轻量并易于合并上游更改。

发布流程

  • CI 为 x64 和 arm64 构建签名的 macOS DMG、Windows NSIS 安装程序和 Linux AppImage/.deb 包。
  • 控制器二进制文件和更新清单也会发布。

许可证

  • MIT 许可证,与上游 T3 Code 项目相同。额外的 Oh My Pi 组件在 assets/OMP-LICENSE.txt 中有自己的许可证。

底线:Local Studio 是一个实用的开源桌面前端,用于自托管 LLM,内置通过 Tailscale 进行的多机器集群管理,对于任何希望在保持推理栈自控的同时享受现代 AI 助手便利性的人来说,这是一个可靠的选择。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目