janhq/jan

Jan is an open source alternative to ChatGPT that runs 100% offline on your computer.

What it solves

Jan 是一個開源的 ChatGPT 替代方案，允許使用者在自己的硬體上本機執行大型語言模型（LLM），確保對資料的完整控制與隱私。

How it works

Jan 提供一個桌面應用程式，讓使用者能從 HuggingFace 下載並執行開源 LLM（如 Llama、Gemma、Qwen）。同時也支援來自 OpenAI、Anthropic、Groq 等供應商的雲端模型。此應用程式內建本機伺服器，於 localhost:1337 提供相容 OpenAI 的 API，讓其他應用程式能與本機模型整合。

Who it’s for

此工具設計給想要以使用者友善方式與 AI 模型互動，同時維持隱私、避免依賴僅有雲端服務的使用者。

Highlights

  • Local AI Models: 從 HuggingFace 直接在您的機器上執行 LLM。
  • Cloud Integration: 連接外部 API 使用 GPT、Claude 等模型。
  • Custom Assistants: 為特定任務建立專屬 AI 助手。
  • Model Context Protocol (MCP): 整合代理功能。
  • Privacy First: 本機執行確保資料留在裝置上。
  • OpenAI-Compatible API: 提供本機伺服器供外部應用程式整合。