michaelthwan/searchGPT

解决的问题

searchGPT 提供了一种通过将模型答案建立在实时事实信息上，以防止 LLM 产生幻觉的方法。它将标准 LLM 转变为一个搜索引擎，能够提供由特定来源支持的自然语言答案，类似于新版 Bing 的功能。

运作原理

该系统从两个主要来源检索信息：通过 Azure Bing Search API 获取的实时互联网信息，以及本地文件（如 PPT、DOC 和 DOCX）。它使用 OpenAI embeddings 进行语义搜索，以在这些来源中找到相关内容。检索到的信息随后被输入到 LLM（如 OpenAI 或 GooseAI）中，以根据提供的上下文生成有根据的事实答案。

目标对象

想要构建或部署一个结合网络搜索、文档搜索与 LLM 生成摘要的接地搜索引擎最小实现的开发者与用户。

特色亮点

• 双重来源接地：结合实时网络搜索结果与本地文件内容搜索。
• 语义搜索：使用 embeddings 从来源中检索最相关的信息。
• LLM 集成：支持多个提供者，包括 OpenAI 和 GooseAI。
• 直观界面：包含内置的前端网页应用程序，便于交互。