oxylabs/oxylabs-ai-studio-py

Structured data gathering from any website using AI-powered scraper, crawler, and browser automation. Scraping and crawling with natural language prompts. Equip your LLM agents with fresh data. AI Studio python SDK for intelligent web data gathering.

解决的问题

此 SDK 为开发者提供了一个简化的接口来与 Oxylabs AI Studio API 交互,能够使用 AI 驱动的工具从网络上自动提取结构化数据。它消除了为每个网站编写复杂自定义爬虫的需求,以自然语言提示词和 AI 驱动的发现取代了手动基于规则的抓取。

工作原理

此 SDK 封装了多个 AI 驱动的数据提取服务:

  • AI 爬虫:使用自然语言提示词从网站的多个页面中查找并提取数据。
  • AI 抓取器:从单个页面提取特定数据点,具备为结构化输出生成 JSON 架构的能力。
  • AI 浏览代理:一个代理工具,可与网站交互(例如:使用搜索栏)来查找并提取特定信息。
  • AI 搜索:执行网络搜索,并以适合 AI 处理的格式返回内容。
  • AI 网站地图:映射网站结构,以根据关键字或提示词识别特定类型的 URL。

适用人群

正在构建 AI 代理、RAG 管道或数据收集管道,且需要从动态网站获取高质量、结构化网页数据的开发者。

亮点

  • 自然语言提取:使用纯英文提示词来引导应提取哪些数据。
  • 结构化输出:支持 JSON、CSV 和 Markdown 格式,并内置架构生成功能。
  • 代理式浏览:能够执行浏览器操作(点击、输入)来查找数据。
  • 地理定位:支持代理位置以提取特定区域的内容。
  • JS 渲染:内置对 JavaScript 渲染的支持,以处理现代动态网页。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目