AllYourBot/hostedgpt

해결하는 문제

HostedGPT는 사용자가 자신의 서버나 로컬 머신에서 AI 채팅 인터페이스를 실행할 수 있도록 해주는 무료로 오픈소스된 ChatGPT 대체 제품입니다. OpenAI, Anthropic, Google, Llama, Groq 등의 AI 제공업체의 모델을 실제로 사용한 만큼만 지불하는 '자신의 API 키를 가져오기' 방식을 통해, 여러 AI 제공업체에 대한 월간 구독료를 지불할 필요 없이 사용할 수 있습니다.

작동 방식

HostedGPT는 Ruby on Rails 애플리케이션으로 구축되어 다양한 LLM API의 프론트엔드 및 관리 계층 역할을 합니다. Docker, Render, Fly.io, Heroku 또는 개인 서버를 통해 배포할 수 있습니다. 앱은 대화 도중 다른 모델로 전환하여 결과를 비교할 수 있으며, 웹 검색을 위한 Brave Search API 및 Gmail과 Google Tasks와의 상호작용을 위한 Google OAuth 연동도 지원합니다.

대상 사용자

정기적인 구독료를 지불하지 않고도 세련되고 모바일을 지원하는 채팅 인터페이스를 원하는 개인과, 자체 AI 어시스턴트 인프라를 호스팅하고 싶은 개발자에게 적합합니다.

주요 기능

• 다중 제공업체 지원: OpenAI, Anthropic, Google, Llama, Groq의 모델을 한 곳에서 접근 가능.
• 비용 효율성: 월간 고정 요금이 아닌 API 키를 통한 사용 기반 과금.
• 모델 비교: 한 대화 내에서 제공업체와 모델을 전환하여 비교 가능.
• 도구 연동: Brave Search를 통한 웹 검색 지원 및 Gmail 및 Tasks와의 실험적 연동.
• 검색 가능한 기록: 다양한 제공업체 간 대화 기록을 검색하고 공유 가능.