BBC-Esq/VectorDB-Plugin

Program that lets you ask questions about your documents and audio or video files.

VectorDB‑Plugin – Windows용 검색 증강 생성(RAG) GUI

기능 개요

다양한 일반 파일 형식(문서, 이미지, 오디오)을 가져와 내용을 추출하고 임베딩하여 로컬 벡터 데이터베이스에 저장합니다.
간단한 그래픽 인터페이스를 제공하여 텍스트나 음성으로 질문하면, 시스템이 가장 관련성 높은 청크를 검색하여 LLM에 전달하고 문맥에 맞는 답변을 생성합니다.
로컬 LLM 백엔드(KoboldCPP, LM Studio) 및 원격 ChatGPT를 지원하며, TTS를 통해 답변을 음성으로 들을 수 있습니다.

주요 특징

광범위한 데이터 수집: PDF, DOCX, TXT, HTML, CSV, Excel, RTF, 이메일 형식과 PNG/JPG/GIF/TIFF 이미지 및 MP3/WAV 등 오디오 파일을 지원합니다.
자동 처리: 이미지에 대한 OCR 스타일 설명 생성, 오디오의 텍스트 변환, 문서의 일반 텍스트 추출을 자동으로 수행합니다.
로컬 벡터 저장소: 모든 임베딩이 디스크에 저장되므로 외부 서비스 없이도 빠른 유사도 검색이 가능합니다.
RAG 워크플로우: 질문 → 검색 → 생성 → 선택적 TTS까지 모든 과정이 GUI에서 제어됩니다.
GPU 가속(선택 사항): NVIDIA GPU를 감지하여 GPU 지원 모델을 설치하며, 그렇지 않은 경우 CPU 전용 소형 모델 설정으로 대체됩니다.
Windows 전용: Windows용으로 패키징되어 원클릭 설치 스크립트를 제공하며, 다른 플랫폼에 대한 PR을 환영합니다.

시스템 요구 사항

요구 사항	세부 정보
OS	Microsoft Windows (공식 지원되는 유일한 플랫폼)
Python	3.11 – 3.14
빌드 도구	Visual C++ Build Tools (네이티브 종속성 컴파일용)
GPU (선택 사항)	NVIDIA GTX 16 시리즈 / RTX 20 시리즈 이상, 드라이버 580+ (가속용)
Git & Git‑LFS	리포지토리 복제 및 대용량 모델 파일 다운로드에 필요

설치 단계

최신 릴리스 ZIP을 다운로드하고 압축을 풉니다.
src 폴더 내에서 PowerShell 프롬프트를 엽니다.
가상 환경을 생성하고 활성화합니다:
```
python -m venv .
.\Scripts\activate
```
Windows 전용 설치 스크립트를 실행합니다(GPU를 자동으로 감지하고 적절한 모델 바이너리를 설치합니다):
```
python setup_windows.py
```
--force‑cpu를 추가하면 CPU 전용 설치를 강제할 수 있습니다.
GUI를 실행합니다:
```
python gui.py
```

사용 방법

Ingest 탭을 통해 파일을 수집합니다. 지원되는 문서, 이미지 또는 오디오 파일을 선택하세요.
앱이 텍스트를 추출하고, 이미지 캡션을 생성하거나 오디오를 변환한 다음, 결과 청크를 임베딩하여 저장합니다.
Ask Jeeves 메뉴(또는 메인 쿼리 창)를 열고 질문을 입력하거나 녹음합니다.
시스템이 가장 관련성 높은 청크를 검색하여 선택한 LLM으로 보내고 답변을 표시합니다. TTS 토글을 활성화하면 답변을 음성으로 들을 수 있습니다.

지원 및 기여

버그, 기능 요청 및 일반적인 피드백은 GitHub issues를 통해 처리됩니다.
저자에게는 이메일(bbc@chintellalaw.com) 또는 KoboldAI Discord(사용자 이름 vic49)로 연락할 수 있습니다.
Windows 이외의 플랫폼에 대한 기여는 풀 리퀘스트를 통해 환영합니다.

라이선스