swuecho/chat

解決的問題

本專案提供一個用於與各種 AI 模型互動的自托管聊天介面，讓使用者能管理對話、整理歷史記錄，並分享其互動內容。解決了需要一個集中式、可自訂的聊天 UI 以支援多個模型供應商的問題。

運作方式

系統作為前端與 API 層，連接至 LLM 供應商。支援 OpenAI、Claude，以及透過 Ollama 本地托管的模型。使用者可定義系統提示，上傳文字或多媒體檔案，並使用 '/' 快捷鍵的提示管理系統，快速存取已儲存的提示。

適用對象

希望擁有具備管理控制、速率限制功能，並能組織與搜尋 AI 對話歷史記錄的私有自托管聊天應用的個人或團隊。

主要特色

• 多模型支援：相容 OpenAI、Claude 與 Ollama。
• 對話管理：建立可共享的靜態頁面（類似 ShareGPT），並提供支援全文英文搜尋的快照目錄。
• 對話上下文：預設自動將最新的 4 筆訊息納入上下文視窗中。
• 可自訂的管理控制：包含管理面板，可用於設定速率限制，並選擇特定模型進行自動標題生成。
• 檔案支援：支援上傳文字與多媒體檔案（依模型能力而定）。
• 行動應用：包含一個基於 Flutter 的行動應用程式，方便隨時隨地聊天。