dondai1234/master-fetch

MCP server for web fetching with Cloudflare bypass, Trafilatura extraction, and smart routing. Free, self-hosted, no API keys.

TITLE:

SUMMARY: AIエージェントに無料でキーレスなウェブ検索およびボット対策フェッチ機能を提供するMCPサーバー。これにより、ボットウォールをバイパスし、ローカルでウェブをクロールできるようになります。

何が解決するか

Houndは、AIエージェントにライブウェブへの信頼できるコストフリーなアクセス方法を提供します。これにより、高価なサードパーティのスクレイピングAPIや複雑なアカウント設定の必要性がなくなります。ローカルのModel Context Protocol (MCP)サーバーを提供することで、検索、フェッチ、クロールを処理しながら、ボット検出の壁(Cloudflareなど)を回避します。

どうやって動作するか

Houndは、エージェント(Claude CodeやCursorなど)と統合されるMCPサーバーとして動作します。ウェブアクセスに対して2段階のアプローチを使用します:まず高速なHTTPリクエストを試み、ブロックされた場合は、Patchrightベースの「ステルス」アンチディテクトブラウザにエスカレートし、人間のような動作をシミュレートしてボットウォールを回避します。検索については、ユーザーのマシン上で最大10台のキーレス検索エンジンを並列実行し、ローカルのONNXクロスエンコーダーを使って意味的な再ランク付けのために結果をマージおよびランク付けします。

誰向けか

リアルタイムのウェブリサーチ、データ抽出、そしてリクエストごとのコストをかけずに厳格なボット対策を施したウェブサイトをナビゲートする能力を必要とするAIエージェントを構築または使用する開発者向けです。

ハイライト

  • キーレスローカル検索: 10のバックエンドにわたる並列検索、ニューラル reranking およびバックエンド間コンセンサスによる権威シグナル。
  • ボット対策ステルスエンジン: 人間ようなマウス移動とフィンガープリントローテーションを使用して、Cloudflare Turnstileおよびその他のボットウォールをバイパス。
  • MCP統合: 6つの専門ツール (smart_fetch, smart_crawl, smart_search, screenshot, cache_clear, version) を提供する単一のサーバーとして設計され、あらゆるMCP互換エージェントに適用可能。
  • BYOKサポート: ユーザーは自身のAPIキー(Serper, Tavily, Exa など)をプライマリ検索用に追加でき、自動ローテーションとローカルキーレスエンジンへのフォールバックが可能。
  • クロール&フェッチ: バルクフェッチ、OCR付きPDF読み取り、およびマークダウンに変換されたベストファースト同一ドメインクロールをサポート。