AllYourBot/hostedgpt

解決的問題

HostedGPT 提供了一個免費、開源的 ChatGPT 替代方案，讓使用者可以在自己的伺服器或本機上運行 AI 聊天介面。它透過允許使用者「帶來自己的 API 金鑰」，僅按實際使用 OpenAI、Anthropic、Google、Llama 和 Groq 等提供者的模型來付費，從而消除對多個 AI 提供者月度訂閱的需求。

如何運作

HostedGPT 是以 Ruby on Rails 應用程式建構，作為各種 LLM API 的前端與管理層。使用者可透過 Docker、Render、Fly.io、Heroku 或私人伺服器進行部署。該應用程式支援在單次對話中切換不同模型以比較結果，並支援與外部工具整合，例如透過 Brave Search API 進行網路搜尋，以及透過 Google OAuth 與 Gmail 和 Google Tasks 互動。

適用對象

適合希望在不支付定期訂閱費用的情況下，使用美觀且支援行動裝置的聊天介面的個人，以及希望託管自己 AI 助手基礎設施的開發者。

主要亮點

• 多提供者支援：在一個地方存取 OpenAI、Anthropic、Google、Llama 和 Groq 的模型。
• 成本效益：透過 API 金鑰按使用量付費，而非固定月費訂閱。
• 模型比較：可在單次對話中切換提供者與模型進行比較。
• 工具整合：支援透過 Brave Search 進行網路搜尋，以及與 Google Gmail 和 Tasks 的實驗性整合。
• 可搜尋的歷史記錄：可在不同提供者之間搜尋與分享對話。