janhq/jan

解决的问题

Jan 是一个注重隐私的开源 ChatGPT 替代品，允许用户在自己的硬件上本地运行大型语言模型（LLMs），确保对数据和隐私的完全控制。

工作原理

Jan 是一个桌面应用程序，可让用户直接从 HuggingFace 下载并运行开源 LLM（如 Llama、Gemma 和 Qwen）。它还通过与 OpenAI、Anthropic 和 Groq 等提供商的集成，支持基于云的模型。该应用包含一个具有 OpenAI 兼容 API 的本地服务器，允许其他应用程序连接，同时集成了 Model Context Protocol（MCP）以实现代理功能。

适用人群

适用于希望获得类似 ChatGPT 的便捷界面，但更倾向于本地运行模型以保障隐私的用户，需要 OpenAI 兼容本地 API 的开发者，以及希望管理多个本地和云 AI 助手的用户。

主要亮点

• 本地 AI 执行：在 Windows、macOS 和 Linux 上从 HuggingFace 本地运行模型。
• 云集成：无缝切换本地模型与云 API（OpenAI、Claude 等）。
• 自定义助手：为特定任务创建专用 AI 助手。
• OpenAI 兼容 API：在 localhost:1337 提供本地服务器，便于外部应用集成。
• MCP 集成：支持 Model Context Protocol 以实现代理能力。
• 隐私优先：当用户选择本地执行时，数据始终保留在本地。