jolibrain/deepdetect

Deep Learning Server and CLI for Torch and TensorRT

解决的问题

DeepDetect 提供了一个统一的接口,用于管理深度学习模型从训练到推理的完整生命周期。它简化了将模型部署为 REST 服务或通过命令行工具执行的过程,无需复杂的底层架构或数据库依赖来存储模型。

运作方式

DeepDetect 作为一种深度学习运行时运行,可通过 wheel 嵌入 Python 环境,或作为独立的 REST 服务器运行。它使用 Torch 作为训练和推理的主要后端,并支持 TensorRT 以进行优化推理。该系统在文件系统上组织模型仓库,并允许用户使用 YAML 配置文件定义可重复的工作流程。

目标对象

专为需要实用且可重复的方式来训练和服务各种数据模态(图像、文本、表格数据和时间序列)模型,且无需管理独立模型存储数据库的开发人员和机器学习工程师所设计。

特色亮点

  • 统一 API:通过单一接口支持图像分类、对象检测、语义分割和语言模型。
  • 统一 CLI:用于可重复训练和推理工作流程的命令行工具。
  • 灵活部署:可部署为嵌入式 Python 库、独立 REST 服务器或在 Docker 容器内运行。
  • 广泛的模型支持:兼容多种架构,包括 YOLOX、SegFormer、BERT、GPT-2 以及各种 TorchVision 分类器。
  • 基于文件系统的存储:直接在磁盘上管理模型仓库,无需数据库。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目