dais-labo/flock

해결하는 문제

Flock은 사용자가 데이터베이스 내에서 직접 의미 분석 및 AI 기반 데이터 처리를 수행할 수 있도록 하는 DuckDB 확장 기능입니다. 기존의 정형 데이터 분석(OLAP)과 대규모 언어 모델(LLM) 및 검색 증강 생성(RAG) 파이프라인 기능 사이의 간극을 메워, 사용자가 표준 SQL 쿼리를 사용하여 비정형 데이터를 처리할 수 있게 합니다.

작동 방식

Flock은 DuckDB의 로드 가능한 확장 기능으로 통합되어 AI 작업을 위한 새로운 SQL 함수를 추가합니다. 다양한 LLM 제공업체(OpenAI, Azure, Anthropic/Claude 등)와 상호 작용하기 위한 선언적 SQL 인터페이스를 제공하며, 텍스트, 이미지, 오디오(전사 포함)를 포함한 멀티모달 입력을 지원합니다.

대상 사용자

데이터를 데이터베이스 환경 밖으로 이동시키지 않고 LLM 기반의 텍스트 생성, 분류, 요약 기능을 기존 SQL 워크플로우에 통합하려는 데이터 분석가 및 개발자.

주요 특징

• 선언적 SQL 인터페이스: SQL을 사용하여 요약 및 임베딩 생성과 같은 AI 작업 수행.
• 다중 제공업체 지원: OpenAI, Azure, Ollama, Anthropic/Claude, TypeSafe/Jev와 호환.
• 멀티모달 지원: 텍스트, 이미지, 오디오 전사에 대한 일급 지원.
• 브라우저 지원: DuckDB-WASM 확장으로 컴파일하여 브라우저 클라이언트 측에서 실행 가능.
• LLM 관측 가능성: 토큰 사용량, 지연 시간, 실행 시간을 추적하는 내장 메트릭.