ShipBit/slickgpt
SlickGPT is a light-weight "use-your-own-API-key" web client for the OpenAI API written in Svelte. It offers GPT-4 integration, a userless share feature and other superpowers.
解決する問題
SlickGPTは、AIモデルとチャットするためのWebベースのクライアントです。標準的なChatGPTインターフェースよりも、ユーザーに多くの制御と機能を提供するために作成されました。単一のホスト型サービスに依存する必要がないという問題を解決します。独自のAPIキーを使用するか、無制限利用のサブスクリプションを利用できるからです。また、チャット履歴がクラウドでホストされる問題を、ブラウザにローカルに保存することで解決します。さらに、他のユーザーがログインすることなくチャットを共有できます。
仕組み
SlickGPTはSvelteとSvelteKitで構築されています。チャット履歴を含むほぼすべてをブラウザのIndexedDBに保存します。会話中は、単純なPOSTを使用してOpenAI API(または互換API)にリクエストを送信し、EventSource APIを使用してライブストリームとしてレスポンスを受信します。これはChatGPTがレスポンスをストリーミングする方法と似ています。チャットを共有する場合は、チャットデータをFirebase Realtime Databaseに保存し、リンクを提供します。アプリはまた、Svelteエンドポイントを介してプロキシを提供し、APIとFirebaseのシークレットをクライアントから保護します。実行するには、自分でホストするか、公開インスタンス(現在はオフライン)を使用できます。
対象ユーザー
SlickGPTは、標準的なChatGPTウェブインターフェースの代替を求める人向けに設計されています。独自のAIチャットクライアントをセルフホストしたい開発者、モデル設定とコストをより細かく制御したいパワーユーザー、チャット履歴をローカルに保持したい人、または受信者がログインせずにチャットを共有したい人に適しています。
ハイライト
- 独自のOpenAI APIキーを使用するか、無制限利用のサブスクリプションを利用できます。
- モバイルファーストのデザインで、スマートフォンとデスクトップで動作します。
- プライバシーのために、チャット履歴はブラウザのIndexedDBにローカルに保存されます。
- ログインや登録を必要とせず、シンプルなリンクでチャットを共有できます。
- メッセージの編集と削除、チャットタイトルの自動提案。
- 分布を視覚化する円グラフ付きの組み込みトークンコスト計算機。
- 温度、top_p、frequency_penalty、コンテキストなどのカスタマイズ可能なモデル設定。
- 複数のモデルをサポート:GPT-3.5 Turbo、GPT-4 Turbo、GPT-4o、Mistral large、Llama 3(Groq経由)。
- ライトテーマとダークテーマ。
- 基本的な使用にはログイン不要。Proプランはオプションでした(現在は廃止)。
- セルフホスト可能で、ローカルまたはクラウドプロバイダーで実行できます。
注:SlickGPTは現在サポート終了となり、メンテナンスされていませんが、コードはMITライセンスの下でフォーク用に利用可能です。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト