lemonade-sdk/lemonade

Lemonade – 빠르고 개인적인 로컬 AI 서버

Lemonade는 오픈소스의 로컬 AI 서버로, 현대의 대규모 언어 모델, 음성 인식, 음성 합성, 이미지 생성 및 기타 멀티모달 모델을 자신의 하드웨어에서 실행할 수 있게 해줍니다. OpenAI/Anthropic/Ollama HTTP API와 호환되므로, 기존에 이러한 서비스에 연결하는 클라이언트는 http://localhost:13305/v1로 연결하여 클라우드 엔드포인트 대신 로컬에 호스팅된 모델을 사용할 수 있습니다.

두 가지 사용 방법

플레이버	설명	일반적인 사용 사례
Lemonade Server	Windows, macOS, Linux 또는 Docker에 설치하는 백그라운드 서비스입니다.	한 번 실행하고 VS Code, 브라우저, 챗봇 등 여러 앱이 표준 API를 통해 연결할 수 있도록 합니다.
임베디드 Lemonade	자체 애플리케이션 내부에 포함할 수 있는 단일 포터블 바이너리입니다.	별도의 설치 프로그램 없이 제3자 앱에 자체적인 개인용 AI 스택을 제공할 수 있습니다.

기본적으로 사용 가능한 기능

• Gemma, Qwen, Claude 스타일 모델과 같은 채팅 및 코딩.
• Stable Diffusion, SDXL-Turbo 등으로 이미지 생성.
• Whisper, Moonshine을 통한 음성 인식과 Kokoro, OpenMOSS를 통한 음성 합성.
• 실험적 백엔드를 통한 오디오 및 3D 생성.
• 하이브리드 클라우드/오프로드 – 일부 요청은 원격 OpenAI 호환 제공자로 라우팅하면서도 다른 요청은 로컬에서 처리.

지원되는 하드웨어 및 백엔드

모달리티	엔진	백엔드 예시	장치
텍스트 생성	llamacpp, flm, ryzenai-llm, vllm (exp.)	cpu, cuda, rocm, vulkan, metal, hrx (exp.)	x86/ARM CPU, NVIDIA GPU, AMD GPU, Apple Silicon, AMD XDNA2 NPU
음성 인식	whispercpp, moonshine	cpu, npu, metal, vulkan, rocm	위와 동일
음성 합성	kokoro, openmoss (exp.)	cpu, cuda, vulkan, rocm, metal	위와 동일
이미지 생성	sd-cpp, thenoise (exp.)	cpu, cuda, vulkan, rocm, metal	위와 동일
3D 생성	trellis (exp.)	cuda, vulkan, rocm	위와 동일

README에는 NVIDIA 컴퓨팅 능력(Turing → Blackwell) 및 AMD ROCm 패밀리(gfx1100–gfx120X)에 대한 지원 표가 상세히 포함되어 있어, GPU/CPU/NPU가 지원되는지 확인할 수 있습니다.

빠른 시작 (CLI)

# 설치 – Windows는 MSI, Linux는 .deb/.rpm, macOS는 .pkg, 또는 Docker
# 이후 모델 다운로드
lemonade pull Gemma-4-E2B-it-GGUF

# 채팅 모델 실행
lemonade run Gemma-4-E2B-it-GGUF

# 코딩 어시스턴트 시작 (Claude 스타일)
lemonade launch claude

# 이미지 생성
lemonade run SDXL-Turbo

# 음성 인식
lemonade run Whisper-Large-v3-Turbo

사용 가능한 모델 목록을 확인(lemonade list), 장애 대체를 위한 별칭 관리(lemonade alias …), 그리고 시스템이 사용 가능한 백엔드 확인(lemonade backends)이 가능합니다.

설치 옵션

• Windows – MSI 설치 프로그램 (릴리스 페이지에서 다운로드).
• Linux – Arch, Debian, Fedora, Ubuntu, Snap용 패키지 또는 소스에서 빌드.
• macOS – .pkg 설치 프로그램.
• Docker – 공식 컨테이너 이미지 다운로드.
• 소스 – docs/dev/getting-started.md 가이드 따르기.

생태계 및 통합

Lemonade는 모델을 탐색하고 다운로드할 수 있는 모델 매니저 UI와 커뮤니티가 이미 서버와 호환되는 앱을 목록으로 제시하는 마켓플레이스를 제공합니다 (예: Firefox Chatbot, AnythingLLM, Open WebUI, GitHub Copilot, n8n 등).

자신의 소프트웨어에 Lemonade를 통합하려면 임베디드 Lemonade 바이너리를 사용하고 docs/embeddable/README.md 가이드를 따르세요.

커뮤니티 및 라이선스

• Apache-2.0 라이선스, 상용 및 개인 사용 모두 무료.
• 활발한 Discord 커뮤니티, 기여 환영 (PRs welcome).
• 워킹 그룹 중심의 로드맵 (자세한 내용은 docs/dev/working-groups 참조).

---

결론: Lemonade는 다양한 AI 모델을 로컬에서 실행할 수 있는 진정한 생산 환경 대응 플랫폼이며, 광범위한 하드웨어 지원과 기존 OpenAI 스타일 클라이언트 라이브러리와의 드롭인 호환성을 갖추고 있습니다.