magicyuan876/mineru-tianshu

해결하는 문제

MinerU Tianshu는 다양한 형식의 비정형 데이터를 Markdown 및 JSON과 같은 구조화된 AI 대응 형식으로 변환하도록 설계된 엔터프라이즈 등급 데이터 전처리 플랫폼입니다. PDF, 이미지, 오디오, 비디오 등 복잡한 소스에서 고품질의 학습 데이터 또는 RAG(검색 증강 생성) 데이터를 준비하는 문제를 해결합니다.

작동 방식

이 플랫폼은 Vue 3 프론트엔드, FastAPI 백엔드 및 GPU 로드 밸런싱을 위한 LitServe를 결합한 모듈형 아키텍처를 사용합니다. 다양한 모달리티를 처리하기 위해 여러 전문 엔진을 통합합니다:

• 문서 및 이미지: PDF, Word, Excel, PPT 파싱에 MinerU와 MarkItDown을 사용하며, 선택적으로 YOLO11x와 LaMa를 워터마크 제거에 사용합니다.
• 오디오 및 비디오: 다국어 음성 인식, 화자 분리, 감정 인식에 SenseVoice를 사용하고, 비디오 키프레임 추출에 FFmpeg와 OCR을 사용합니다.
• 전문 형식: FASTA 및 GenBank와 같은 바이오인포매틱스 형식을 위한 플러그인 기반 엔진을 포함합니다.
• 인프라: 능동적으로 작업을 가져오는 워커 풀을 갖춘 작업 대기열 시스템을 구현하여 GPU 격리 및 멀티 GPU 스케일링을 지원합니다. 또한 추출된 이미지의 S3 호환 객체 저장소로 RustFS를 통합합니다.

대상 사용자

AI 애플리케이션을 위해 대량의 멀티모달 데이터를 처리해야 하는 기업 및 개발자를 위해 구축되었습니다. 특히 사용자 인증, 감사 로그 및 API 통합이 포함된 확장 가능한 셀프호스팅 솔루션이 필요한 사용자를 대상으로 합니다.

주요 특징

• 멀티모달 지원: 문서, 이미지, 오디오, 비디오 및 바이오인포매틱스 데이터를 처리합니다.
• 엔터프라이즈 기능: JWT 인증, 역할 기반 액세스 제어, API 키 관리 및 작업 완료 웹훅 알림을 포함합니다.
• GPU 최적화: LitServe 기반 로드 밸런싱 및 NVIDIA CUDA와 Apple Silicon (MPS/MLX) 지원을 특징으로 합니다.
• AI 어시스턴트 통합: Model Context Protocol (MCP)을 지원하여 Claude Desktop과 같은 AI 에이전트가 문서 파싱을 직접 트리거할 수 있도록 합니다.
• 확장 가능한 배포: GPU, CPU 및 완전 오프라인 환경을 위한 옵션을 갖춘 원클릭 Docker 배포를 제공합니다.