janhq/jan

해결하는 문제

Jan은 개인정보 보호를 우선시하는 오픈소스 기반의 ChatGPT 대안으로, 사용자가 자신의 하드웨어에서 대규모 언어 모델(LLM)을 로컬로 실행하거나 클라우드 기반 AI 서비스에 연결할 수 있게 해 주며, 데이터와 모델 선택에 대한 완전한 통제권을 제공합니다.

작동 방식

Jan은 Tauri로 구축되고 llama.cpp로 구동되는 데스크톱 애플리케이션입니다. 사용자는 HuggingFace에서 오픈소스 모델(Llama, Gemma, Qwen 등)을 다운로드하여 직접 실행할 수 있습니다. 또한 OpenAI, Anthropic, Groq 등의 클라우드 API와도 통합 가능합니다. 개발자를 위해 localhost:1337에서 로컬 OpenAI 호환 API 서버를 호스팅하며, 에이전트 기능을 위한 Model Context Protocol(MCP)도 지원합니다.

대상 사용자

개인정보를 보호하면서 AI 모델과 쉽게 상호작용할 수 있는 사용자, 그리고 다른 애플리케이션용 로컬 AI 서버가 필요한 개발자에게 적합합니다.

주요 기능

• 로컬 모델 실행: 데이터 프라이버시를 보장하기 위해 LLM을 로컬에서 실행.
• 클라우드 통합: OpenAI, Claude 등 다양한 외부 AI 제공업체에 연결 가능.
• 사용자 정의 어시스턴트: 특정 작업에 맞게 맞춤형 AI 어시스턴트 생성 가능.
• OpenAI 호환 API: 다른 도구와의 원활한 통합을 위한 로컬 서버 제공.
• MCP 지원: 에이전트 기능을 위한 Model Context Protocol와의 통합.