usemoss/moss

解決する課題

AIエージェント向けの大多数の検索スタックは、リモートのベクトルデータベースに依存しており、ネットワークの往復遅延が200～500ms加算されます。この遅延は、音声ボットやコピロットなどのリアルタイム対話型AIの流れを妨げ、応答が鈍く感じられる原因になります。

動作方法

Mossは従来のデータベースではなく、検索ランタイムです。ハイブリッドアーキテクチャを採用し、以下の3つの部分から構成されています：

1. Moss Cloud: ドキュメントのインジェスト、埋め込み、ストレージ、配布を管理。
2. Index: ドキュメントとベクトルを1つのアーティファクトとしてクラウドに保存。
3. Runtime: Python、TypeScript、Elixir、C向けのSDKとしてアプリケーションに直接埋め込まれます。ランタイムはHTTPS経由でインデックスを取得し、メモリに保持することで、ホットパスでのネットワークホップを完全に排除し、アプリケーションプロセス内でクエリをローカルに処理できます。

また、WebAssembly版も提供され、ブラウザ内で完全にセマンティック検索を実行できます。

対象ユーザー

リアルタイム対話型AIエージェント、音声ボット、コピロット、オフライン優先アプリケーションを構築する開発者で、超低遅延の検索を必要とする方々。

特徴

• 超低遅延: 検索をプロセス内に実行することで、埋め込みを含むクエリ時間は10ms未満を達成。
• ハイブリッド検索: 1つのクエリでセマンティック検索とキーワード検索を組み合わせ。
• 組み込み埋め込み: 外部APIキー不要の埋め込みモデルを標準搭載。
• ブラウザ対応: WASMベースのSDKにより、サーバー不要でクライアント側でセマンティック検索を実行可能。
• 広範な統合: LangChain、LlamaIndex、DSPy、および各種音声AIプラットフォーム（Pipecat、Vapi、ElevenLabs）と互換性あり。