Nutlope/turboseek

解決する課題

TurboSeekは、Perplexityのような商用AI検索エンジンのオープンソースの代替手段です。自然言語で質問を投げかけると、静的な知識ベースに頼るのではなく、ライブのWeb検索結果に基づいたAI生成の回答をストリーミング形式で受け取ることができます。

仕組み

ユーザーが質問を送信すると、TurboSeekは5つのステップのパイプラインを実行します：

1. 質問を検索APIに送信します（手順ではBing Search APIと説明されていますが、技術スタックにはExa.aiが記載されています）。
2. 検索結果の上位6件を取得し、各リンクからテキストをスクレイピングします。
3. そのスクレイピングされたテキストがコンテキストとなります。
4. ユーザーの質問とコンテキストをOpenAI gpt-ossモデルに送信し、回答をストリーミングで返します。
5. Llama 3.1 8Bに対して個別のリクエストを行い、ユーザーが尋ねることができる3つの関連するフォローアップの質問を生成します。

このアプリはフロントエンドにNext.js (App Router) とTailwindを使用し、モデル推論にはTogether AI、可観測性にはHelicone、分析にはPlausibleを採用しています。

対象ユーザー

TurboSeekは、独自のAI検索エンジンを運用したい開発者や、リンク先のチュートリアルに従って構築方法を学びたい人に適しています。また、ライブのWebコンテンツからAIの回答を得るためのオープンでセルフホスト可能な方法を求めているすべての人に役立ちます。

ハイライト

• オープンソースでセルフホスト可能
• 回答をリアルタイムでストリーミング
• フォローアップの質問を自動的に提案
• シンプルで馴染みのあるスタックを使用：Next.js, Tailwind, Together AI, 検索API
• 自分で構築するためのステップバイステップのチュートリアルが含まれています