dais-labo/flock
Beyond Quacking: Deep Integration of Language Models and RAG into DuckDB (VLDB Demo 2025)
解决的问题
Flock 是一个 DuckDB 扩展,允许用户直接在数据库内执行语义分析和 AI 驱动的数据处理。它弥合了传统结构化数据分析 (OLAP) 与大型语言模型 (LLM) 及检索增强生成 (RAG) 流水线能力之间的差距,使用户能够使用标准 SQL 查询来处理非结构化数据。
运作方式
Flock 作为 DuckDB 的可加载扩展整合,为 AI 任务新增了 SQL 函数。它提供了一个声明式的 SQL 接口,用于与各种 LLM 提供商(如 OpenAI、Azure 和 Anthropic/Claude)互动,并支持包括文本、图像和音频(通过转录)在内的多模态输入。
目标客群
希望将基于 LLM 的文本生成、分类和摘要整合到现有 SQL 工作流程中,且无需将数据移出数据库环境的数据分析师与开发人员。
特色亮点
- 声明式 SQL 接口:使用 SQL 执行摘要和嵌入生成等 AI 任务。
- 多提供商支持:兼容于 OpenAI、Azure、Ollama、Anthropic/Claude 和 TypeSafe/Jev。
- 多模态支持:对文本、图像和音频转录提供一等公民支持。
- 浏览器支持:可编译为 DuckDB-WASM 扩展,在浏览器中进行客户端执行。
- LLM 可观测性:内置用于追踪 Token 使用量、延迟和执行时间的指标。
相关
- 项目
- 项目
- 项目
- 项目