us/crw
Fast, lightweight Firecrawl/Tavily alternative in Rust. Web scraper, crawler & search API with MCP server for AI agents. Drop-in Firecrawl-compatible API (/scrape, /crawl, /search). 2.3x faster than Tavily, 1.5x faster than Firecrawl in 1K-URL benchmarks. 6 MB RAM, single binary. Self-host or use managed cloud.
解決的問題
fastCRW 提供一個高效能引擎,可將網頁內容轉換為乾淨的 Markdown 或結構化 JSON,解決了從 URL 中提取高品質、AI 就緒資料的難題。它取代了過去需要使用多個獨立工具來進行網頁搜尋、抓取、爬取和資料提取的需求。
運作方式
它以 Rust 為基礎的二進位檔案運作,可以在本地端執行或透過託管 API 存取。該引擎支援五個主要操作:
- Scrape:將單一 URL 轉換為 Markdown、HTML、截圖或 JSON。
- Crawl:執行有界限的網站爬取以收集頁面。
- Map:探索網站內的 URL,而無需抓取每個頁面。
- Search:搜尋網頁並可選擇抓取結果。
- Extract:從一個或多個 URL 產生結構化欄位。
它透過模型上下文協定 (MCP) 與 AI 程式編寫工具(如 Cursor、Windsurf 和 Claude Code)整合,讓代理能將其作為一項技能使用。
適用對象
正在建構 AI 代理、RAG 管線或資料提取工具,且需要快速、低記憶體佔用引擎來擷取和清理網頁內容的開發人員。
亮點
- 高效率:閒置時僅佔用約 14 MB 記憶體。
- 高準確度:在真實召回率和答案準確度基準測試中,表現優於 Firecrawl 和 Crawl4AI 等競爭對手。
- 靈活部署:提供託管 API、本地 Rust 二進位檔案或自架等選項。
- 代理就緒:原生支援 MCP 伺服器,可與 AI 程式編寫助手無縫整合。
相關
- 專案
- 專案
- 專案
- 專案
- 專案