AllYourBot/hostedgpt

HostedGPT – 다양한 LLM 제공업체를 위한 자체 호스팅 채팅 UI

소개 – HostedGPT는 자체 서버, 노트북 또는 모든 클라우드 호스트에서 실행할 수 있는 ChatGPT 스타일의 인터페이스를 제공하는 오픈소스 Ruby on Rails 웹 앱입니다. 자체 언어 모델을 제공하지는 않으며, 대신 사용자의 메시지를 설정한 LLM API(OpenAI, Anthropic Claude, Google Gemini, Ollama, Groq 등)로 전달하고 응답을 반환합니다.

주요 기능

• 멀티 제공업체 지원 – 대화 도중 제공업체나 모델을 전환할 수 있어 출력 결과를 쉽게 비교할 수 있습니다.
• 웹 검색 도구 – 무료 Brave Search API key를 제공하면 어시스턴트가 실시간 웹 검색을 수행할 수 있습니다.
• Google 통합 (실험적) – Google 계정을 연결하여 봇이 Gmail, Tasks 및 (곧 지원 예정인) Calendar를 읽고 쓸 수 있습니다.
• 대화 기록 – 모든 채팅은 저장되며 검색 및 공유가 가능합니다.
• 모바일 친화적 UI – 브라우저에서 작동하며 휴대폰 홈 화면에 추가할 수 있습니다.
• 독일어 현지화 – UI는 기본적으로 독일어를 지원합니다.

실행 방법

1. 배포 – Render, Fly.io 및 Heroku(현재는 작동하지 않음)에 대한 원클릭 배포 옵션을 제공합니다. 무료 Render 티어는 90일간 작동하며, 이후에는 일반적으로 월 7달러 플랜이 필요합니다.
2. Docker – 권장되는 로컬 설정은 docker compose up --build이며, PostgreSQL 컨테이너와 Rails 앱을 가져옵니다.
3. 베어메탈 – Ruby, PostgreSQL, ImageMagick 및 rbenv를 사용하여 앱을 직접 실행할 수도 있습니다.
4. 설정 – 대부분의 동작은 환경 변수(기본 API keys, Brave search key, Cloudflare R2 스토리지, Google-tools 플래그, 음성 채팅 플래그, 인증 방식 등)를 통해 전환됩니다.

대상 사용자

• 여러 구독료를 지불하지 않고 자체 호스팅 ChatGPT 스타일 UI를 원하는 개발자.
• 대화 데이터를 온프레미스에 보관하거나 채팅을 내부 도구(Google 앱, 파일 스토리지 등)와 통합해야 하는 팀.
• 다양한 LLM 제공업체를 나란히 두고 실험하고 싶은 모든 사람.

제한 사항

• 앱 자체에는 LLM이 포함되어 있지 않으므로 유효한 API keys를 제공하고 선택한 제공업체에 요청당 비용을 지불해야 합니다.
• 일부 선택적 기능(Google 도구, 음성, Heroku 배포)은 실험적이거나 현재 작동하지 않는 것으로 표시되어 있습니다.
• 무료 Render 호스팅은 15분 동안 활동이 없으면 일시 중지되어 재개 시 속도가 느려집니다.

커뮤니티 – 이 저장소는 숙련된 Rails 개발자가 유지 관리하며 기여자를 환영합니다. 테스트 스위트, Docker 워크플로우, 모델 확장, 스토리지 백엔드 추가 또는 배포 스크립트 수정에 관한 문서가 포함되어 있습니다.