EmbeddedLLM/JamAIBase

The collaborative spreadsheet for AI. Chain cells into powerful pipelines, experiment with prompts and models, and evaluate LLM responses in real-time. Work together seamlessly to build and iterate on AI applications.

What it solves

JamAI Base 提供了一種簡化的、宣告式的 RAG (Retrieval-Augmented Generation) 後端構建方法。它消除了手動構建複雜的 RAG 流水線、管理分開的資料庫或編寫程序化代碼來處理 LLM 與儲存空間之間的數據編排 (orchestration) 的需求。

How it works

該平台整合了用於結構化數據的嵌入式 SQLite 資料庫，以及用於向量嵌入 (embeddings) 的 LanceDB，並將它們與託管式記憶體系統結合。它採用「宣告式範式」，用戶可以定義期望的結果，而非程序化的步驟。這可以透過類試算表 UI 與 REST API 進行管理。

Key components include:

Generative Tables: 使用 LLM 自動填充列的表格。
Action Tables: 處理前端與 LLM 後端之間即時互動與工作流編排的表格。
Knowledge Tables: 提供 LLM 上下文的結構化數據與文件的儲存庫。
Chat Tables: 用於開發與 RAG 整合的上下文感知型聊天機器人的專用表格。

Who it’s for

想要建立 AI 增強型應用程式、聊天機器人以及數據驅動的 LLM 工作流，且不想承擔基礎設施管理或編寫大量後端代碼的開發者與用戶，無論其技術水平如何。

Highlights

Integrated Stack: 結合 SQLite 與 LanceDB，實現無縫的結構化與向量數據管理。
Built-in RAG Pipeline: 包含適應性分塊 (adaptive chunking)、查詢重寫 (query rewriting) 與結合重排序 (reranking) 的混合搜索 (關鍵字、結構化與向量) 。
LLM Agnostic: 支援多種模型，包括 GPT-4, Claude 3, 與 Llama 3。
Declarative Interface: 使用類試算表 UI，透過自然語言提示 (prompts) 來定義數據需求。