1broseidon/ketch
Fast, stateless CLI for web search and scrape. Built for AI agents.
What it solves
Ketch 简化了人类和 AI 代理收集外部数据的过程,将多种搜索、代码和文档提供者整合为单一、无状态的 CLI 工具。用户无需管理多个 SDK、认证方式以及不同研究工具的响应格式,只需使用一个二进制文件即可进行网络搜索、grep 开源代码、访问库文档,并将网页抓取为干净的 Markdown。
How it works
Ketch 充当统一接口,将请求路由到各种已配置的后端。它提供以下主要表面功能:
- Web Search:集成 Brave、DuckDuckGo、SearXNG、Exa、Firecrawl 和 Keenable 等提供者。支持使用 Reciprocal Rank Fusion 的“rank‑fused”联邦搜索,跨多个后端进行搜索。
- Code Search:通过 Grep、Sourcegraph 或 GitHub Code Search 搜索公共 OSS 源代码。
- Documentation:通过 Context7 提供版本感知的库文档。
- Scraping/Crawling:将 HTML 和基于文本的 PDF 转换为干净的 Markdown。对需要 JavaScript 渲染的页面(SPA)自动回退到无头 Chrome 浏览器,并支持自定义 Cookie 以获取认证内容。
该工具是无状态的,生成结构化的 JSON 输出,使 AI 代理能够通过 shell 命令或作为 MCP(Model Context Protocol)服务器轻松集成。
Who it’s for
- AI Agent Developers:需要可预测、单二进制工具进行研究任务,而无需编写特定提供者的胶水代码。
- Power Users/Developers:希望拥有快速的终端替代方案,取代浏览器标签页或复杂的
curl | pandoc流水线来提取网页内容。
Highlights
- Unified Interface:一个工具同时支持网络搜索、代码搜索、文档和爬取。
- Agent-Optimized:提供结构化 JSON 输出、文档化的退出码用于控制流,并有
ketch config探索命令查看能力。 - Smart Extraction:对 SPA 自动使用 JS 渲染回退,内置纯 Go PDF 解析器。
- MCP Support:可作为 MCP 服务器运行,向 AI 代理提供研究表面作为工具。
- Flexible Configuration:支持 CLI 标志、环境变量和配置文件,并支持多密钥轮换以管理速率限制。