EmbeddedLLM/JamAIBase

The collaborative spreadsheet for AI. Chain cells into powerful pipelines, experiment with prompts and models, and evaluate LLM responses in real-time. Work together seamlessly to build and iterate on AI applications.

What it solves

JamAI Base は、RAG (Retrieval-Augmented Generation) バックエンドを構築するための簡素化された宣言的なアプローチを提供します。複雑な RAG パイプラインを、手動で構築したり、個別のデータベースを管理したり、LLM とストレージ間のデータオーケストレーションを処理するための手続き的コードを記述したりする必要がなくなります。

How it works

本プラットフォームは、構造化データ用の埋め込み型 SQLite データベースと、ベクトル埋め込み用の LanceDB を統合し、それらを管理型メモリシステムと組み合わせます。ユーザーが手続き的なステップではなく、期待する結果を定義する「宣言的なパラダイム- paradigm」を使用します。これはスプレッドシートのような UI と REST API を通じて管理されます。

Key components include:

Generative Tables: LLM を使用して列を自動的に入力するテーブル。
Action Tables: フロントエンドと LLM バックエンド間のリアルタイムのインタラクションとワークフローのオーケストレーションを処理するテーブル。
Knowledge Tables: LLM にコンテキストを提供するための、構造化データとドキュメントのリポジトリ。
Chat Tables: RAG と統合されたコンテキスト認識型チャットボットを開発するための専用テーブル。

Who it’s for

インフラストラクチャの管理や広範なバックエンドコードの記述を負担することなく、AI 強化型アプリケーション、チャットボット、およびデータ駆動型 LLM ワークフローを構築したい、技術レベルが異なる様々な分野のエンジニアおよびユーザー。

Highlights

Integrated Stack: SQLite と LanceDB を組み合わせ、シームレスな構造化データとベクトルデータの管理を実現します。
Built-in RAG Pipeline: 適応型チャンキング、クエリ書き換え、およびリランキング (reranking) を伴うハイブリッド検索 (キーワード、構造化、ベクトル) を含みます。
LLM Agnostic: GPT-4, Claude 3, Llama 3 を含む様々なモデルをサポートします。
Declarative Interface: スプレッドシートのような UI を使用して、自然言語プロンプトを使用してデータ要件を定義します。