jakobdylanc/llmcord
Make Discord your LLM frontend - Supports any OpenAI compatible API (OpenRouter, Ollama and more)
해결하는 문제
llmcord는 Discord 서버를 대규모 언어 모델(LLM)과 상호작용할 수 있는 공동 작업 인터페이스로 전환합니다. 친구 그룹이나 커뮤니티 구성원들이 AI와 함께 대화를 나누고, 대화를 분기하며 컨텍스트를 공유할 수 있습니다. 별도의 독립형 프론트엔드나 복잡한 데이터베이스 설정이 필요하지 않습니다.
작동 방식
이 봇은 Discord와 통합되어 있으며, OpenAI와 호환되는 모든 API(OpenRouter 및 Google과 같은 원격 제공자, 또는 Ollama 및 LM Studio와 같은 로컬 설정 포함)에 연결할 수 있습니다. 대화 기록을 관리하기 위해 Discord 자체의 답글 시스템을 사용합니다. 메시지에 답글을 달면, 봇은 해당 전체 답글 체인을 현재 프롬프트의 컨텍스트로 간주합니다. 이로 인해 채팅 기록을 저장하기 위한 외부 데이터베이스가 필요하지 않습니다.
대상 사용자
Discord 커뮤니티에 LLM 기능을 도입하여 공동 아이디어 도출, 공유된 AI 지원, 또는 다양한 모델을 활용한 사회적 실험을 원하는 사용자에게 적합합니다.
주요 특징
- 답글 기반 컨텍스트: Discord의 답글 체인을 사용하여 대화 기록과 분기 구조를 관리합니다.
- 광범위한 모델 호환성: OpenAI
/v1/chat/completionsAPI와 호환되며, 로컬 및 원격 제공자 모두 지원합니다. - 다중 모달 기능: 시각 능력이 있는 모델을 사용할 경우 이미지 및 텍스트 파일 첨부를 지원합니다.
- 유연한 설정: 실시간 리로드 설정, 사용자 정의 시스템 프롬프트, 사용자, 역할, 채널별 세밀한 권한 제어 기능을 제공합니다.
- 효율적인 설계: 단일 Python 파일에서 완전히 비동기적으로 구현되었으며, 최적화된 메시지 캐싱을 채택했습니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트