EmbeddedLLM/JamAIBase

The collaborative spreadsheet for AI. Chain cells into powerful pipelines, experiment with prompts and models, and evaluate LLM responses in real-time. Work together seamlessly to build and iterate on AI applications.

What it solves

JamAI Base 提供了一种简化的、声明式的 RAG (Retrieval-Augmented Generation) 后端构建方法。它消除了手动构建复杂 RAG 流水线、管理单独的数据库、或编写程序化代码来处理 LLM 与存储之间的数据编排 (orchestration) 的需求。

How it works

该平台集成了嵌入式 SQLite 数据库用于结构化数据，以及 LanceDB 用于向量嵌入 (embeddings)，并将它们与托管式内存系统结合。它采用“声明式范式”，用户定义期望的的结果，而不是程序化的步骤。这可以通过类试算表 UI 和 REST API 进行管理。

Key components include:

  • Generative Tables: 使用 LLM 自动填充列的表格。
  • Action Tables: 处理前端与 LLM 后端之间实时交互与工作流编排的表格。
  • Knowledge Tables: 用于结构化数据和文档的存储库，为 LLM 提供上下文。
  • Chat Tables: 用于开发与 RAG 整合的上下文感知型聊天机器人的专用表格。

Who it’s for

想要构建 AI 增强型应用、聊天机器人以及数据驱动的 LLM 工作流，且不想承担基础设施管理或编写大量后端代码的开发者与用户，无论其技术水平如何。

Highlights

  • Integrated Stack: 结合 SQLite 与 LanceDB，实现无缝的结构化与向量数据管理。
  • Built-in RAG Pipeline: 包含自适应分块 (adaptive chunking)、查询重写 (query rewriting) 与结合重排序 (reranking) 的混合搜索 (关键词、结构化与向量) 。
  • LLM Agnostic: 支持 various models 包含 GPT-4, Claude 3, 与 Llama 3。
  • Declarative Interface: 使用类试算表 UI，通过自然语言提示 (prompts) 来定义数据需求。