ikechan8370/chatgpt-plugin

해결하는 문제

이 프로젝트는 Miao-Yunzai 및 Yunzai-Bot을 위한 종합적인 플러그인을 제공하며, 고급 LLM 기능을 채팅 봇에 통합합니다. 여러 AI 모델을 관리하는 어려움, 그룹 채팅에서의 복잡한 대화 문맥을 처리하는 문제, 그리고 봇 프레임워크 내에서 지속적인 메모리 또는 지식 베이스를 구현하는 문제를 해결합니다.

작동 방식

Chaite 코어를 기반으로 구축된 이 플러그인은 봇 프레임워크와 다양한 AI 서비스 간의 가교 역할을 합니다. API 서버와 플러그형 저장소 계층(기본값은 SQLite)을 사용하여 고동시성 대화를 관리합니다. 여러 모델 채널, 사용자 정의 프롬프트(프리셋), 그리고 개인 및 그룹 수준의 메모리를 위해 벡터 인덱싱을 사용하는 RAG(Retrieval-Augmented Generation) 시스템을 지원합니다. 또한, 봇이 확률이나 키워드에 기반하여 대화를 시작하여 더 자연스럽게 보이도록 하는 "BYM" (의사 인간) 모드를 특징으로 합니다.

대상 사용자

봇에 정교한 AI 채팅 기능, 개인화된 AI 페르소나, 그리고 장기 메모리 기능을 추가하고 싶은 Miao-Yunzai 또는 Yunzai-Bot 개발자 및 사용자.

주요 특징

• Multi-Channel Management: 다양한 AI 모델에 걸쳐 로드 밸런싱과 개인화된 프롬프트를 지원합니다.
• Pseudo-Human Mode: 확률 기반 트리거와 키워드 매칭을 사용하여 봇이 선제적으로 채팅할 수 있도록 합니다.
• Memory & RAG: 그룹 및 개인 메모리를 위한 내장 벡터 인덱싱을 지원하여, 봇이 과거의 상호작용이나 외부 지식을 회상할 수 있게 합니다.
• Visual Management: 명령줄 지침과 함께 채널, 도구 및 트리거를 관리하기 위한 웹 기반 제어판을 포함합니다.
• Multimodal Support: 텍스트, 이미지, 음성 입력을 처리하며, 멀티모달 응답을 반환할 수 있습니다.