deepdetect: 여러 모달리티에 걸친 통합 학습 및 추론을 위한 딥러닝 런타임 및 REST 서버

해결하는 문제

DeepDetect는 딥러닝 모델의 전체 수명 주기를 관리하기 위한 통합 런타임 및 인터페이스를 제공합니다. 이미지, 텍스트, 표형 데이터 등 다양한 모델 유형에 대한 학습, 배포 및 추론 과정을 단순화하여 사용자가 복잡한 백엔드 설정을 직접 관리할 필요가 없게 합니다.

작동 방식

DeepDetect는 파이썬 휠(프로세스 내 추론 및 명령줄 도구용), 장기 서비스용 REST 서버, Docker 컨테이너 등으로 사용할 수 있는 딥러닝 런타임으로 동작합니다. 학습 및 추론의 기본 백엔드로 Torch를 사용하고, 최적화된 추론을 위해 TensorRT를 지원합니다. 시스템은 파일 시스템에 모델 저장소를 구성하여 데이터베이스 의존성을 없앱니다.

대상 사용자

컴퓨터 비전, NLP, 시계열 등 다양한 모달리티에 걸쳐 모델을 학습하고 서비스해야 하는 개발자와 ML 엔지니어를 위해 설계되었습니다. 단일 API로 반복 가능하고 자동화 친화적인 방식으로 모델을 다룰 수 있습니다.

주요 특징

• 멀티모달 지원: 이미지 분류, 객체 탐지, 의미론적 분할, 언어 모델(BERT, GPT-2), 표형 데이터, 시계열을 처리합니다.
• 통합 인터페이스: 일관된 모델 작업을 위해 CLI, REST API, 파이썬 라이브러리를 제공합니다.
• 백엔드 최적화: 일반 작업에는 Torch를, 고성능 추론에는 TensorRT를 사용합니다.
• 유연한 배포: 파이썬 휠을 통한 로컬 실행, REST를 통한 원격 서비스, Docker를 통한 컨테이너 배포를 지원합니다.
• 파일 시스템 기반 저장: 단순성을 위해 디스크에 직접 모델 저장소를 관리합니다.