oxylabs/oxylabs-ai-studio-js
Structured data gathering from any website using AI-powered scraper, crawler, and browser automation. Scraping and crawling with natural language prompts. Equip your LLM agents with fresh data. AI Studio JS SDK for intelligent web data gathering.
解决的问题
此 SDK 为开发人员提供了一种简化方式,将 AI 驱动的网络数据提取和导航工具集成到 JavaScript 应用程序中。它消除了手动处理复杂的抓取、爬取和浏览 API 请求的需要,为使用 AI 从网络提取结构化数据提供了结构化接口。
工作原理
该 SDK 作为 Oxylabs AI Studio API 的封装器,允许用户执行以下 AI 驱动的任务:
- AI-Scraper:使用提供的 JSON schema 或通过自然语言提示生成 schema,从特定 URL 提取数据。
- AI-Crawler:根据用户指令,发现并从网站的多个页面中提取数据。
- Browser-Agent:一个可以导航网站(例如点击和输入文本)并根据用户提示提取数据的 AI 代理。
- AI-Search:执行网络搜索,并可以使用针对实时或轮询响应优化的端点从结果中返回内容。
- AI-Map:根据关键词或提示映射网站结构,以发现相关的 URL。
适用对象
正在构建需要自动化、AI 驱动的网络数据收集、结构化数据提取和自主网络导航应用的开发人员。
亮点
- Schema 驱动的提取:支持 JSON、CSV 和 Markdown 输出格式,并具有用于结构化数据的自定义 JSON schema。
- 自主导航:Browser-Agent 可以在提取数据之前执行点击和输入文本等操作。
- 爬取与映射:用于大规模发现 URL 和映射网站结构的工具。
- 地理位置模拟:能够模拟来自特定国家的请求,以绕过区域限制。
- JavaScript 渲染:支持渲染 JavaScript 以处理目标页面上的动态内容。
相关
- 项目
- 项目
- 项目
- 项目
- 项目