katanaml/sparrow

Sparrow Parse: 利用 Vision LLMs 從圖像和多頁 PDF 提取結構化 JSON。
Sparrow Instructor: 使用 Text LLMs 進行指令處理、驗證和決策。
Sparrow Agents: 通過 Prefect 編排多步工作流，並通過自定義代理和視覺化監控進行管理。

Structured data extraction, instruction calling and agentic workflows with ML, LLM and Vision LLM

What it solves

Sparrow 是一個面向企業文件智能的 API-first 平台。它解決了將非結構化文件（例如發票、收據、銀行對帳單和財務表格）轉換為乾淨、經過驗證且結構化的 JSON 數據的問題。它還通過指令調用和代理工作流處理文本處理和決策任務。

Sparrow 使用可插拔式架構，允許用戶根據任務混合搭配不同的處理流水線：

該平台支持多種後端，以確保它可以在各種硬體上運行，包括用於 Apple Silicon 的 MLX，用於 NVIDIA GPU 的 vLLM，Ollama，以及用於雲端提取的 Mistral OCR。所有處理過程都可以運行在用戶自己的基礎設施上，以避免外部 API 依賴。

它為需要自動化從複雜文件中提取數據，並在不依賴雲端 AI 服務的情況下將數據集成到後端流水線或數據工作流中的企業和開發者而設計。