run-llama/llama_index

LlamaIndex is the leading document agent and OCR platform

What it solves

LlamaIndex 是一个旨在通过使用私有数据增强大型语言模型 (LLM) 的数据框架。它通过提供一个用于摄取、结构化和检索私有信息的工具包，解决了 LLM 仅限于其预训练公共数据的问题。

How it works

LlamaIndex 提供了一套工具来弥合您的数据与 LLM 之间的差距：

  • Data Connectors: 摄取来自各种来源和格式的数据 (PDFs, APIs, SQL, 等)。

  • Data Structuring: 将数据组织成索引或图，以使其成为 LLM-ready。

  • Retrieval/Query Interface: 一个高级接口，它接收 LLM prompt 并在基于检索到的私有数据返回上下文增强的输出。

  • Integrations: 无缝连接到其他应用框架，如 LangChain, Flask, 或 Docker。

Who it’s for

  • Beginners: 可以使用高层级 API 在几行代码内完成数据摄取和查询的人。
  • Advanced Users: 需要自定义和扩展模块，如 retrievers, query engines, 和 reranking modules。

Highlights

  • 超过 300 个用于 LLM, embeddings, 和 vector stores 的集成包。

  • 支持入门包 (llama-index) 和自定义核心包 (llama-index-core)。

  • Ability to persist data to disk for efficient reloading: 能够将数据持久化到磁盘，以实现高效的重新加载。

  • Integration with LlamaParse for agentic OCR and structured data extraction: 与 LlamaParse 集成，用于智能体式 OCR 和结构化数据提取。