jolibrain/deepdetect

Deep Learning Server and CLI for Torch and TensorRT

해결하는 문제

DeepDetect는 딥러닝 모델의 학습부터 추론까지 전체 수명 주기를 관리하기 위한 통합 인터페이스를 제공합니다. 모델을 REST 서비스로 배포하거나 명령줄 도구를 통해 실행하는 과정을 간소화하며, 모델 저장을 위해 복잡한 인프라나 데이터베이스 의존성을 관리할 필요가 없습니다.

작동 방식

DeepDetect는 딥러닝 런타임으로 작동하며, wheel을 통해 Python 환경에 내장하거나 독립형 REST 서버로 실행할 수 있습니다. 학습 및 추론을 위한 기본 백엔드로 Torch를 사용하며, 최적화된 추론을 위해 TensorRT를 지원합니다. 이 시스템은 파일 시스템에서 모델 저장소를 구성하며, 사용자가 YAML 구성 파일을 사용하여 재현 가능한 워크플로우를 정의할 수 있도록 합니다.

대상 사용자

모델 저장을 위한 별도의 데이터베이스를 관리하지 않고도 다양한 데이터 모달리티(이미지, 텍스트, 표 형식 데이터, 시계열 데이터)에 걸쳐 실용적이고 재현 가능한 방식으로 모델을 학습하고 서빙해야 하는 개발자 및 ML 엔지니어를 위해 설계되었습니다.

주요 특징

  • 통합 API: 이미지 분류, 객체 탐지, 의미론적 분할 및 언어 모델을 단일 인터페이스를 통해 지원합니다.
  • 통합 CLI: 재현 가능한 학습 및 추론 워크플로우를 위한 명령줄 도구입니다.
  • 유연한 배포: 내장형 Python 라이브러리, 독립형 REST 서버 또는 Docker 컨테이너 내에서 배포할 수 있습니다.
  • 광범위한 모델 지원: YOLOX, SegFormer, BERT, GPT-2 및 다양한 TorchVision 분류기를 포함한 광범위한 아키텍처와 호환됩니다.
  • 파일 시스템 기반 저장소: 데이터베이스 없이 디스크에서 직접 모델 저장소를 관리합니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트