lemonade-sdk/lemonade

Lemonade helps users discover and run local AI apps by serving optimized LLMs right from their own GPUs and NPUs. Join our discord: https://discord.gg/5xXzkMu8Zk

Lemonade – 高速でプライベートな、ローカルAIサーバー

LemonadeはオープンソースのローカルAIサーバーで、現代の大規模言語モデル、音声認識、音声合成、画像生成、その他のマルチモーダルモデルを、自前のハードウェア上で実行できます。OpenAI/Anthropic/OllamaのHTTP APIと互換性があるため、既存のクライアントがこれらのサービスに接続するのと同じように、http://localhost:13305/v1に接続して、クラウドエンドポイントではなくローカルホストのモデルを利用できます。

2つの使い方

フレーバー	内容	用途
Lemonade Server	Windows、macOS、Linux、Dockerにインストールするバックグラウンドサービス。	一度起動して、VS Code、ブラウザ、チャットボットなど、複数のアプリが標準API経由で接続できるようにする。
Embeddable Lemonade	自分のアプリに内蔵する単一のポータブルバイナリ。	第三者アプリに独自のプライベートAIスタックを提供し、別途インストーラーを必要としない。

すぐに使える機能

Gemma、Qwen、Claude風モデルなどのチャットとコーディング。
Stable Diffusion、SDXL-Turboなどによる画像生成。
Whisper、Moonshineによる音声認識と、Kokoro、OpenMOSSによる音声合成。
実験的バックエンドによる音声・3D生成。
ハイブリッドクラウド/オフロード – 一部のリクエストをリモートのOpenAI互換プロバイダーにルーティングしつつ、他のリクエストはローカルで処理。

サポートされるハードウェアとバックエンド

モダリティ	エンジン	バックエンド例	デバイス
テキスト生成	`llamacpp`, `flm`, `ryzenai-llm`, `vllm` (exp.)	`cpu`, `cuda`, `rocm`, `vulkan`, `metal`, `hrx` (exp.)	x86/ARM CPU、NVIDIA GPU、AMD GPU、Apple Silicon、AMD XDNA2 NPU
音声認識	`whispercpp`, `moonshine`	`cpu`, `npu`, `metal`, `vulkan`, `rocm`	上記と同じ
音声合成	`kokoro`, `openmoss` (exp.)	`cpu`, `cuda`, `vulkan`, `rocm`, `metal`	上記と同じ
画像生成	`sd-cpp`, `thenoise` (exp.)	`cpu`, `cuda`, `vulkan`, `rocm`, `metal`	上記と同じ
3D生成	`trellis` (exp.)	`cuda`, `vulkan`, `rocm`	上記と同じ

READMEには、NVIDIAの計算能力（Turing → Blackwell）およびAMD ROCmファミリー（gfx1100–gfx120X）の対応表が詳細に記載されており、GPU/CPU/NPUがサポートされているか確認できます。

クイックスタート（CLI）

# インストール – WindowsはMSI、Linuxは.deb/.rpm、macOSは.pkg、またはDocker
# その後モデルを取得
lemonade pull Gemma-4-E2B-it-GGUF

# チャットモデルを実行
lemonade run Gemma-4-E2B-it-GGUF

# コーディングアシスタントを起動（Claude風）
lemonade launch claude

# 画像生成
lemonade run SDXL-Turbo

# 音声認識
lemonade run Whisper-Large-v3-Turbo

利用可能なモデルを一覧表示（lemonade list）、フェイルオーバー用のエイリアスを管理（lemonade alias …）、およびマシンが利用可能なバックエンドを照会（lemonade backends）できます。

インストールオプション

Windows – MSIインストーラー（リリースページからダウンロード）。
Linux – Arch、Debian、Fedora、Ubuntu、Snap用パッケージ、またはソースからビルド。
macOS – .pkgインストーラー。
Docker – 公式コンテナイメージをプル。
ソース – docs/dev/getting-started.mdのガイドに従ってください。

エコシステムと統合

Lemonadeは、モデルを閲覧・ダウンロードできるモデルマネージャーUIと、コミュニティが既にサーバーと連携しているアプリをリストアップするマーケットプレイスを提供しています（例：Firefox Chatbot、AnythingLLM、Open WebUI、GitHub Copilot、n8nなど）。

自社ソフトウェアにLemonadeを埋め込むには、Embeddable Lemonadeバイナリを使用し、docs/embeddable/README.mdのガイドに従ってください。

コミュニティとライセンス

Apache-2.0ライセンス、商用・個人利用ともに無料。
活発なDiscordコミュニティ、貢献歓迎（PRs welcome）。
ワーキンググループによってロードマップが決定（docs/dev/working-groupsを参照）。

結論：Lemonadeは、幅広いAIモデルをローカルで実行できる本格的で生産環境対応のプラットフォームであり、広範なハードウェアサポートと、既存のOpenAI風クライアントライブラリとのドロップイン互換性を備えています。