oxylabs/AI-Search-py

Turn plain English queries into structured web data, featuring automated markdown extraction and full JavaScript rendering for dynamic websites.

何を解決するか

AI-Search は、開発者がウェブから情報を取得・抽出するプロセスを簡素化します。カスタムの検索スクリーパーをゼロから構築する必要をなくし、自然言語でウェブ検索を行い、結果のページのコンテンツをオプションでスクリーピングする統一された方法を提供します。

動作方法

このツールは、API を介して Python アプリケーションに統合できる知能型検索エージェントとして動作します。ユーザーは plain English で検索クエリを入力し、希望する結果数(最大 50 件)を指定し、エージェントがページの完全なコンテンツをスクリーピングするか、URL とタイトルのみを返すかを切り替えられます。現代の JavaScript 重視のウェブサイトに対応するため、動的コンテンツからデータを正しく抽出できるように JavaScript レンダリング機能も搭載されています。

対象ユーザー

最新ニュースの収集、競合調査、業界動向の集約など、データ発見および収集タスクを自動化したい開発者向けに設計されています。

特徴

  • 自然言語クエリ: plain English でウェブ検索が可能。
  • 動的コンテンツ対応: Single Page Applications からのデータ抽出に対応する JavaScript レンダリングをサポート。
  • コンテンツ抽出: オプションで検索結果から markdown 形式のコンテンツをスクリーピングして返却。
  • ローカライズ検索: ISO 2 文字国コードまたは座標を用いた geo_location パラメータで検索結果をローカライズ可能。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト