lemonade：它是什麼、解決了什麼問題以及為何受到關注

它解決了什麼

Lemonade 提供一種免費且私密的方式，讓您在自己的硬體上本地執行強大的 AI 模型，免除昂貴的雲端 API 需求。它透過自動為使用者的特定 PC 硬體（包括 NPU 與 GPU）進行最佳化，簡化了部署多模態 AI（文字、影像、語音）的流程。

它如何運作

Lemonade 作為本地 AI 伺服器運行，提供標準 API（相容於 OpenAI、Anthropic 與 Ollama），使其能連接數百個現有的 AI 應用程式。它支援多種模型格式（GGUF、FLM 與 ONNX），並利用各種推論引擎如 llamacpp、whispercpp、sd-cpp，在不同硬體後端上執行模型，包括 NVIDIA CUDA、AMD ROCm/Vulkan、Apple Metal 與 XDNA2 NPU。

目標對象

• 終端使用者：希望在聊天、程式編寫與內容生成上擁有私密、本地 AI 的使用者。
• 開發者：希望透過「Embeddable Lemonade」將可攜、可自動最佳化的 AI 堆疊整合到自家應用程式中的開發者。
• PC 愛好者：擁有專門硬體（如 Ryzen AI 或 Radeon GPU）並想最大化硬體 AI 效能的使用者。

重點特色

• 多模態支援：處理文字生成、語音轉文字（轉錄）、文字轉語音與影像生成。
• 廣泛硬體相容性：針對 NPU、GPU（AMD、NVIDIA、Apple）與 CPU 進行最佳化，支援 Windows、Linux 與 macOS。
• API 相容性：使用標準的 OpenAI 相容端點，讓它在許多應用程式中可直接取代雲端服務。
• 可嵌入二進位：允許開發者將本地 AI 功能直接封裝進軟體，無需額外安裝程式。