swuecho/chat

解决的问题

该项目提供了一个用于与各种 AI 模型交互的自托管聊天界面，允许用户管理对话、整理历史记录，并分享他们的互动。它解决了需要一个集中式、可自定义的聊天 UI 以支持多个模型提供商的问题。

工作原理

该系统作为前端和 API 层，连接到 LLM 提供商。支持 OpenAI、Claude 以及通过 Ollama 本地托管的模型。用户可以定义系统提示，上传文本或多媒体文件，并使用带有 '/' 快捷键的提示管理系统，快速访问保存的提示。

适用人群

希望拥有具备管理控制、速率限制功能，并能组织和搜索 AI 对话历史记录的私有自托管聊天应用的个人或团队。

主要亮点

• 多模型支持：兼容 OpenAI、Claude 和 Ollama。
• 对话管理：创建可共享的静态页面（类似于 ShareGPT），并提供支持全文英文搜索的快照目录。
• 对话上下文：默认情况下，自动将最新的 4 条消息包含在上下文窗口中。
• 可自定义的管理控制：包含一个管理面板，用于设置速率限制，并选择特定模型用于自动标题生成。
• 文件支持：支持上传文本和多媒体文件（取决于模型能力）。
• 移动应用：包含一个基于 Flutter 的移动应用程序，方便随时随地聊天。