estebanpdl/osintgpt
An open-source intelligence (OSINT) analysis tool leveraging GPT-powered embeddings and vector search engines for efficient data processing
解决的问题
osintgpt 协助分析师检视庞大的研究文件集合,而不会混淆不同项目或丢失信息的原始来源。它允许用户索引自己的文件,并针对该特定资料进行提问,确保回答皆有明确的引用来源作为依据。
运作方式
此工具透过 RAG (检索增强生成) 方法建立隔离的项目来索引文件。它将各种文件格式 (PDF, Word, Excel, CSV, JSON 等) 转换为可搜索的格式,建立文本嵌入 (embeddings),并将其存储于向量数据库 (SQLite, Qdrant, 或 Postgres) 中。当用户提问时,系统可利用语义相似度、精确文本比对或图形关系来寻找相关素材,并使用设定好的 LLM 生成答案。
目标对象
专为需要查询私人文件集合,同时需维持严格数据来源追溯性与完全本地处理选项的 OSINT (开源情报) 分析师与研究人员所设计。
特色亮点
- 多供应商支持:兼容于 OpenAI, Gemini, Anthropic, Voyage, 与 Ollama 进行生成与嵌入。
- 隐私选项:支持使用 Ollama 与 sentence-transformers 的完全本地化流程,确保数据不会离开机器。
- 广泛的文件支持:包含 29 种可读扩展名,并支持透过视觉转录处理扫描后的 PDF。
- 强大的索引功能:具备检查点功能,可恢复中断的索引作业,并内置付费 API 的速率限制与节流机制。
- 图形功能:可将来源图形关系导出为 CYPHERL,以便在 Neo4j 或 Memgraph 中使用。
相关
- 项目
- 项目
- 项目
- 项目
- 项目