oxylabs/oxylabs-ai-studio-js

Structured data gathering from any website using AI-powered scraper, crawler, and browser automation. Scraping and crawling with natural language prompts. Equip your LLM agents with fresh data. AI Studio JS SDK for intelligent web data gathering.

解决的问题

此 SDK 为开发人员提供了一种简化方式,将 AI 驱动的网络数据提取和导航工具集成到 JavaScript 应用程序中。它消除了手动处理复杂的抓取、爬取和浏览 API 请求的需要,为使用 AI 从网络提取结构化数据提供了结构化接口。

工作原理

该 SDK 作为 Oxylabs AI Studio API 的封装器,允许用户执行以下 AI 驱动的任务:

  • AI-Scraper:使用提供的 JSON schema 或通过自然语言提示生成 schema,从特定 URL 提取数据。
  • AI-Crawler:根据用户指令,发现并从网站的多个页面中提取数据。
  • Browser-Agent:一个可以导航网站(例如点击和输入文本)并根据用户提示提取数据的 AI 代理。
  • AI-Search:执行网络搜索,并可以使用针对实时或轮询响应优化的端点从结果中返回内容。
  • AI-Map:根据关键词或提示映射网站结构,以发现相关的 URL。

适用对象

正在构建需要自动化、AI 驱动的网络数据收集、结构化数据提取和自主网络导航应用的开发人员。

亮点

  • Schema 驱动的提取:支持 JSON、CSV 和 Markdown 输出格式,并具有用于结构化数据的自定义 JSON schema。
  • 自主导航:Browser-Agent 可以在提取数据之前执行点击和输入文本等操作。
  • 爬取与映射:用于大规模发现 URL 和映射网站结构的工具。
  • 地理位置模拟:能够模拟来自特定国家的请求,以绕过区域限制。
  • JavaScript 渲染:支持渲染 JavaScript 以处理目标页面上的动态内容。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目