BBC-Esq/VectorDB-Plugin
Program that lets you ask questions about your documents and audio or video files.
VectorDB‑Plugin – Windows 平台的检索增强生成 GUI
功能概述
- 支持摄入多种常见文件类型(文档、图像、音频),提取内容并进行向量化,随后将嵌入存储在本地向量数据库中。
- 提供简洁的图形界面,用户可以通过输入或语音提问,系统会自动检索最相关的片段,并将其提供给 LLM 以生成上下文相关的回答。
- 支持本地 LLM 后端(KoboldCPP, LM Studio)以及远程 ChatGPT,并可通过 TTS 将答案朗读出来。
核心特性
- 广泛的摄入能力:支持 PDF、DOCX、TXT、HTML、CSV、Excel、RTF、电子邮件格式,以及 PNG/JPG/GIF/TIFF 图像和 MP3/WAV 等音频文件。
- 自动处理:为图像生成 OCR 风格的描述,为音频进行语音转文字转录,并提取文档的纯文本。
- 本地向量存储:所有嵌入均保存在磁盘上,无需外部服务即可实现快速相似度搜索。
- RAG 工作流:查询 → 检索 → 生成 → 可选的 TTS,全程通过 GUI 编排。
- GPU 加速(可选):自动检测 NVIDIA GPU 并安装支持 GPU 的模型;否则将回退到仅使用 CPU 的小型模型配置。
- 仅限 Windows:针对 Windows 打包并提供一键安装脚本;欢迎提交 PR 以支持其他平台。
系统要求
| 要求 | 详情 |
|---|---|
| 操作系统 | Microsoft Windows(唯一官方支持的平台) |
| Python | 3.11 – 3.14 |
| 构建工具 | Visual C++ Build Tools(用于编译原生依赖项) |
| GPU(可选) | NVIDIA GTX 16 系列 / RTX 20 系列或更新版本,驱动程序 580+ 以实现加速 |
| Git & Git‑LFS | 克隆仓库并获取大型模型文件所需 |
安装步骤
- 下载最新的发布版 ZIP 并解压。
- 在
src文件夹内打开 PowerShell 提示符。 - 创建并激活虚拟环境:
python -m venv . .\Scripts\activate - 运行 Windows 专用安装脚本(它将自动检测 GPU 并安装相应的模型二进制文件):
添加python setup_windows.py--force‑cpu以强制进行仅 CPU 安装。 - 启动 GUI:
python gui.py
使用方法
- 通过 Ingest 选项卡摄入文件 – 选择任何支持的文档、图像或音频文件。
- 应用程序会提取文本、生成图像说明或转录音频,然后对生成的片段进行嵌入并存储。
- 打开 Ask Jeeves 菜单(或主查询面板),输入或录制问题。
- 系统检索最相关的片段,将其发送给选定的 LLM,并显示答案。启用 TTS 开关即可收听回复。
支持与贡献
- 错误报告、功能请求和一般反馈通过 GitHub issues 处理。
- 可通过电子邮件 (
bbc@chintellalaw.com) 或 KoboldAI Discord (用户名vic49) 联系作者。 - 欢迎通过 pull requests 为非 Windows 平台做出贡献。
许可证
- README 中未明确说明;请检查仓库中的 LICENSE 文件。
相关
- 项目
- 项目
- 项目
- 项目
- 项目