SMNETSTUDIO/WeChat-AI

해결하는 문제

WeChat에서 AI 기반 역할극 챗봇을 만들기 위한 자체 호스팅 프레임워크를 제공합니다. 대규모 언어 모델(LLM)과 WeChat 생태계 사이의 격차를 메우며, 특정 캐릭터 설정, 기억 기능, 관리 서비스를 통해 실제 사용자와 상호작용할 수 있는 봇을 배포할 수 있도록 합니다.

작동 방식

시스템은 Tencent의 iLink에 연결하여 WeChat 메시징을 처리합니다. 여러 동일한 서버 인스턴스가 원격 Redis 데이터베이스를 공유하여 봇 토큰, 캐릭터 설정, 스티커를 저장하는 다중 노드 아키텍처를 사용합니다. 인증은 LINUX DO OAuth로 처리됩니다. AI 기능은 OpenAI 호환 LLM과 통합되며, Hugging Face에 배포된 별도의 AI 게이트웨이를 통해 웹 검색 및 사용자 정의 모델에 접근할 수 있습니다. 또한 봇의 행동을 설계하기 위한 시각적 오케스트레이션 도구인 Chatflow도 포함되어 있습니다.

대상 사용자

WeChat에서 자체 AI 역할극 봇을 호스팅하고 싶은 사용자, 메시징 플랫폼과 LLM을 통합하고 싶은 개발자, 토큰 사용량 모니터링 및 콘텐츠 모더레이션을 필요로 하는 커뮤니티 관리자.

주요 특징

• 시각적 오케스트레이션: 단순한 프롬프트를 넘어서는 복잡한 봇 상호작용을 설계할 수 있는 Chatflow 편집기 포함.
• 다중 노드 배포: Cloudflare Worker 로드 밸런싱을 활용한 동일한 환경 배포를 지원하여 안정성 확보.
• 다중 모달 기능: 입력 이미지 이해(비전) 및 내장 음성 변환을 지원.
• 캐릭터 관리: 캐릭터 설정 할당 및 승인된 채팅 파트너 관리가 가능한 사용자 센터 제공.
• 풍부한 미디어 지원: iLink CDN를 통해 AI가 특정 이미지 스티커를 참조하고 전송할 수 있는 스티커 라이브러리 통합.