ServiceStack/llms
LLM Client, Server API and UI
何を解決するか
Open WebUIの軽量でプライバシー重視の代替手段として、複数の大型言語モデル（LLM）にアクセスできるようにします。ユーザーのすべてのデータをリモートサーバーではなく、ブラウザのローカルストレージに保存することで、データプライバシーを重視しています。
動作方法
このプロジェクトは、CLI、API、Webインターフェースを備えており、さまざまなLLMとやり取りできるようにします。完全にオフライン（またはローカルAPIエンドポイント経由）で動作し、会話履歴や設定はすべてブラウザのストレージメカニズム内に保存されます。
対象ユーザー
複雑なUIのオーバーヘッドやクラウドベースのAIインターフェースに伴うデータプライバシーの懸念なしに、ローカルLLM用のシンプルなChatGPT風インターフェースを求めるユーザーです。
特徴
- 軽量なCLIとAPI
- ブラウザベースのストレージによる完全なデータプライバシー
- ChatGPT風のWebインターフェース
- 複数のLLMのサポート
関連
- プロジェクト
Niek/chatgpt-webChatGPT‑web は、OpenAI 互換 LLM（OpenAI、Anthropic、Gemini など）とチャットできるオープンソースの単一ページ Web UI です。会話はローカルに保存され、音声 I/O、画像生成、ストリーミング応答をサポート。ブラウザ、Docker、またはネイティブデスクトップアプリとして実行可能です。
- プロジェクト
addyosmani/chattyWebGPU を使用して、ローカルのハードウェア上で LLM を実行する、オフライン利用とデータプライバシーを確保するプライベートなブラウザ内 AI チャットインターフェースです。
- プロジェクト
chatboxai/chatboxChatGPT、Claude、およびその他のLLMのための、統一されたインターフェースとプライバシー向上のためのローカルデータストレージを提供するクロスプラットフォームのデスクトップおよびモバイルクライアント。
- プロジェクト
amaiya/onprem機密データに対してデフォルトでローカル実行を可能にするプライバシー重視のPythonツールキットで、必要に応じてクラウド連携も可能。
- プロジェクト
Ryan-yang125/ChatLLM-WebWebGPU を使用して、APIキーもバックエンドサーバーも不要な、ユーザーのデバイス上でローカルにLLMを実行するプライベートなブラウザネイティブAIスタジオおよびエージェントワークスペース。