AllYourBot/hostedgpt

解决的问题

HostedGPT 提供了一个免费的开源替代方案，让用户可以在自己的服务器或本地机器上运行 AI 聊天界面。它通过允许用户「自带 API 密钥」，仅按实际使用 OpenAI、Anthropic、Google、Llama 和 Groq 等提供商的模型来付费，从而消除了对多个 AI 提供商的月度订阅需求。

如何工作

HostedGPT 是一个基于 Ruby on Rails 的应用程序，作为多种 LLM API 的前端和管理层。用户可以通过 Docker、Render、Fly.io、Heroku 或私有服务器进行部署。该应用支持在单次对话中切换不同模型以比较结果，并支持与外部工具集成，例如通过 Brave Search API 进行网络搜索，以及通过 Google OAuth 与 Gmail 和 Google Tasks 交互。

适用人群

适合希望在不支付定期订阅费用的情况下，使用美观且支持移动设备的聊天界面的个人，以及希望托管自己 AI 助手基础设施的开发者。

主要亮点

• 多提供商支持：在一个地方访问 OpenAI、Anthropic、Google、Llama 和 Groq 的模型。
• 成本效益：通过 API 密钥按使用量付费，而非固定月度订阅。
• 模型对比：可在单次对话中切换提供商和模型进行对比。
• 工具集成：支持通过 Brave Search 进行网络搜索，以及与 Google Gmail 和 Tasks 的实验性集成。
• 可搜索的历史记录：可在不同提供商之间搜索和共享对话。