oxylabs/oxylabs-ai-studio-py

Structured data gathering from any website using AI-powered scraper, crawler, and browser automation. Scraping and crawling with natural language prompts. Equip your LLM agents with fresh data. AI Studio python SDK for intelligent web data gathering.

What it solves

このSDKは、開発者がOxylabs AI Studio APIとやり取りするための簡素化されたインターフェースを提供し、AIを活用したツールを使用してウェブから構造化データを自動的に抽出することを可能にします。各ウェブサイトに対して複雑なカスタムスクレイパーを記述する必要がなくなり、手動のルールベースのスクレイピングが自然言語プロンプトとAI駆動のディスカバリーに置き換わります。

How it works

このSDKは、いくつかのAI駆動のデータ抽出サービスをラップしています:

  • AI Crawler: 自然言語プロンプトを使用して、サイト内の複数のページからデータを検索して抽出します。
  • AI Scraper: 単一のページから特定のデータポイントを抽出します。構造化された出力のためにJSONスキーマを生成する機能も備えています。
  • AI Browser Agent: ウェブサイト(例:検索バーの使用)と対話して、特定の情報を検索して抽出できるエージェント型のツールです。
  • AI Search: ウェブ検索を実行し、AI処理に適した形式でコンテンツを返します。
  • AI Map: キーワードやプロンプトに基づいて、ウェブサイトの構造をマッピングして特定の種類のURLを特定します。

Who it’s for

AIエージェント、RAGパイプライン、または動的なウェブサイトから高品質で構造化されたウェブデータが必要なデータ収集パイプラインを構築している開発者。

Highlights

  • Natural Language Extraction: 平易な英語のプロンプトを使用して、抽出するデータを指示できます。
  • Structured Output: JSON、CSV、およびMarkdown形式をサポートし、組み込みのスキーマ生成機能を備えています。
  • Agentic Browsing: ブラウザ操作(クリック、入力)を行ってデータを検索する機能。
  • Geo-Targeting: 地域固有のコンテンツを抽出するために、プロキシのロケーションをサポートしています。
  • JS Rendering: モダンな動的ウェブページを処理するために、JavaScriptのレンダリングを組み込みでサポートしています。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト