janhq/jan

解決的問題

Jan 是一個以隱私為首要考量的開源 ChatGPT 替代品，允許使用者在自己的硬體上本地執行大型語言模型（LLMs），或透過雲端 AI 服務連接，確保對資料與模型選擇的完全掌控。

如何運作

Jan 是一個使用 Tauri 建構並由 llama.cpp 驅動的桌面應用程式。它讓使用者可以直接從 HuggingFace 下載並執行開源模型（例如 Llama、Gemma 和 Qwen）。同時也支援與 OpenAI、Anthropic、Groq 等提供者的雲端 API 整合。對於開發者，它在 localhost:1337 上主機一個本地 OpenAI 相容 API 伺服器，並支援 Model Context Protocol (MCP) 以實現代理功能。

適用對象

專為希望在保持隱私的同時，使用直覺介面與 AI 模型互動的使用者，以及需要為其他應用提供本地 AI 伺服器的開發者所設計。

主要特色

• 本地模型執行：在本地執行 LLM 以確保資料隱私。
• 雲端整合：連接至多種外部 AI 提供者，包括 OpenAI 和 Claude。
• 自訂助理：建立針對特定任務量身打造的 AI 助理。
• OpenAI 相容 API：提供本地伺服器，方便與其他工具無縫整合。
• MCP 支援：與 Model Context Protocol 整合，實現代理功能。