bosun-ai/swiftide

Fast, streaming indexing, query, and agentic LLM applications in Rust

What it solves

Swiftide は Rust で LLM アプリケーションを構築するためのフレームワークで、自治エージェント、複雑なオーケストレーションワークフロー、検索強化生成（RAG）パイプラインの複雑さを構造化して管理できるようにします。

How it works

3 つのコアプリミティブを提供し、さまざまな AI インタラクションモデルに対応します。

Agent Harness: LLM 呼び出し、ツール実行、ライフサイクルフックのループを管理します。ヒューマン・イン・ザ・ループ承認、ストリーミング応答、Model Context Protocol（MCP）サーバーとの統合をサポートします。
Typed Task Graphs: ワークフローを型付きノードのグラフとして定義するオーケストレーション層です。入力と出力のビルド時型安全性を提供し、並列実行（ファンアウト）や結果の結合を可能にします。
RAG Pipelines: インデックス作成とクエリのための構成可能なストリーミングパイプラインです。ローダー（ファイル、スクレイピング）からトランスフォーマー（チャンク化、埋め込み）を経て、ベクトルデータベースなどのストレージバックエンドへデータを流します。

Who it’s for

Rust で高性能かつ型安全な LLM アプリケーションを構築したい開発者向けです。特に、複雑なエージェントワークフローやスケーラブルな RAG インデックスパイプラインが必要な方に適しています。

Highlights

Type-Safe Orchestration: 型付きタスクグラフを使用して、複雑な AI ワークフロー全体でデータの一貫性を保証します。
Flexible Tooling: ローカルの Rust 関数、カスタムツール実装、MCP サーバーをサポートします。
Human-in-the-Loop: タスクやエージェントを一時停止・再開し、人間の承認を得るための組み込みサポートがあります。
Extensive Integrations: OpenAI、Anthropic、Gemini など多数の LLM プロバイダーや、Qdrant、Redis、LanceDB などのベクトルデータベースと互換性があります。
Observability: tracing、メトリクス、Langfuse を用いた実行トレースの統合サポートがあります。