ServiceStack/llms
LLM Client, Server API and UI
解決的問題
提供一個輕量、注重資料隱私的 Open WebUI 替代方案，用於存取多個大型語言模型（LLMs）。透過將所有使用者資料儲存在瀏覽器的本機儲存空間，而非遠端伺服器，來強調資料隱私。
運作方式
此專案提供 CLI、API 和 Web 界面，讓使用者能與各種 LLM 互動。完全離線運作（或透過本機 API 端點），並確保對話歷史與設定儲存在瀏覽器自身的儲存機制中。
適用對象
希望為本地 LLM 使用簡單、類似 ChatGPT 的介面，又不想承擔複雜 UI 的開銷，也不必擔心雲端 AI 介面所帶來的資料隱私問題的使用者。
主要特色
- 輕量級 CLI 與 API
- 瀏覽器本機儲存，實現完全的資料隱私
- 類似 ChatGPT 的 Web 界面
- 支援多個 LLM
相關
- 專案
- 專案
- 專案
- 專案
- 專案