vercel-labs/knowledge-agent-template

何を解決するか

このプロジェクトは、複雑な埋め込みパイプラインやベクトルデータベースを必要とせずに、カスタム知識ベースにアクセス・検索できるAIエージェントのテンプレートを提供します。従来のRAG（検索拡張生成）に伴うインフラストラクチャのオーバーヘッドを排除し、直接ファイルシステムの検索を活用します。

動作方法

システムは、GitHubリポジトリやYouTube字幕など、さまざまなソースからのコンテンツをスナップショットリポジトリに同期します。ユーザーが質問をすると、エージェントは隔離されたVercel Sandbox内で動作します。ベクトル検索ではなく、grep、find、catなどの標準的なbashツールを使ってファイルを直接検索・読み取ります。また、単純な質問は安価なモデルに、複雑な質問はより強力なLLMに自動的にルーティングする「複雑さルーティング」機能を備え、コストを最適化しています。

対象ユーザー

Web、GitHub、Discordなど複数のプラットフォームに迅速に知識ベースAIエージェントをデプロイしたい開発者。ベクトルベースのアプローチではなく、決定論的で説明可能な検索手法を求める方々に最適です。

特徴

• ベクトルなしRAG：grep、find、catなどのファイルベース検索により、埋め込みなしで決定論的かつ即時な結果を実現。
• マルチプラットフォームデプロイ：1つのエージェントをWebチャットアプリ、GitHubボット、Discordボットとして同時にデプロイ可能。
• AIパワード管理パネル：自然言語で使用状況、エラー、パフォーマンスに関する運用質問に答える専用エージェントを備えた管理パネル。
• Shannon Sandbox Pool：読み取り専用のサンドボックスプールを共有することで、100ms未満の高速起動とリソース効率を実現。
• 複雑さルーティング：質問の難易度に応じて異なるLLMモデルに自動的にルーティングし、コスト削減を実現。