janhq/jan

Jan is an open source alternative to ChatGPT that runs 100% offline on your computer.

What it solves

Jan 是一个开源的 ChatGPT 替代方案，允许用户在自己的硬件上本地运行大型语言模型（LLM），确保对数据的完整控制和隐私。

How it works

Jan 提供一个桌面应用程序，用户可以从 HuggingFace 下载并运行开源 LLM（如 Llama、Gemma、Qwen）。它也支持来自 OpenAI、Anthropic、Groq 等提供商的云端模型。该应用包含一个本地服务器，在 localhost:1337 提供兼容 OpenAI 的 API，允许其他应用程序集成本地模型。

Who it’s for

它面向希望以用户友好的方式与 AI 模型交互，同时保持隐私并避免依赖仅云端服务的用户。

Highlights

  • Local AI Models: 从 HuggingFace 直接在您的机器上运行 LLM。
  • Cloud Integration: 连接外部 API 使用 GPT、Claude 等模型。
  • Custom Assistants: 为特定任务创建专用 AI 助手。
  • Model Context Protocol (MCP): 集成代理能力。
  • Privacy First: 本地执行确保数据留在设备上。
  • OpenAI-Compatible API: 提供本地服务器供外部应用程序集成。