swuecho/chat

해결하는 문제

이 프로젝트는 다양한 AI 모델과 상호작용할 수 있는 자체 호스팅 채팅 인터페이스를 제공하여 사용자가 대화를 관리하고, 기록을 정리하며, 상호작용을 공유할 수 있도록 합니다. 여러 모델 제공업체를 지원하는 중앙집중식이고 사용자 정의 가능한 채팅 UI가 필요하다는 문제를 해결합니다.

작동 방식

시스템은 LLM 제공업체에 연결하는 프론트엔드 및 API 계층으로 작동합니다. OpenAI, Claude, 그리고 Ollama를 통해 로컬에 호스팅된 모델을 지원합니다. 사용자는 시스템 프롬프트를 정의하고, 텍스트 또는 멀티미디어 파일을 업로드하며, 저장된 프롬프트에 빠르게 접근할 수 있는 '/' 단축키를 사용하는 프롬프트 관리 시스템을 사용할 수 있습니다.

대상 사용자

관리 제어, 레이트 제한, AI 대화 기록을 정리하고 검색할 수 있는 개인 또는 팀이 필요로 하는 사내 호스팅 채팅 애플리케이션을 원하는 사용자들입니다.

주요 기능

• 다중 모델 지원: OpenAI, Claude, Ollama와 호환됩니다.
• 대화 관리: ShareGPT과 유사한 공유 가능한 정적 페이지를 생성하고, 전체 텍스트 영문 검색이 가능한 스냅샷 디렉터리를 제공합니다.
• 대화 컨텍스트: 기본적으로 컨텍스트 창에 최신 4개의 메시지를 자동으로 포함합니다.
• 사용자 정의 관리 제어: 레이트 제한 설정 및 자동 제목 생성에 사용할 특정 모델 선택이 가능한 관리 패널을 포함합니다.
• 파일 지원: 텍스트 및 멀티미디어 파일 업로드가 가능합니다 (모델 기능에 따라 다름).
• 모바일 앱: 이동 중에도 채팅할 수 있는 Flutter 기반 모바일 애플리케이션을 포함합니다.