jolibrain/deepdetect

Deep Learning Server and CLI for Torch and TensorRT

解決する課題

DeepDetectは、ディープラーニングモデルのトレーニングから推論までのライフサイクル全体を管理するための統一インターフェースを提供します。モデルをRESTサービスとしてデプロイしたり、コマンドラインツール経由で実行したりするプロセスを簡素化し、モデルストレージのために複雑なインフラやデータベースの依存関係を必要としません。

仕組み

DeepDetectはディープラーニングランタイムとして動作し、wheelを介してPython環境に組み込むか、スタンドアロンのRESTサーバーとして実行できます。トレーニングと推論の主要なバックエンドとしてTorchを使用し、最適化された推論のためにTensorRTをサポートしています。このシステムはファイルシステム上でモデルリポジトリを整理し、ユーザーがYAML設定ファイルを使用して再現可能なワークフローを定義できるようにします。

対象ユーザー

モデルストレージ用のデータベースを別途管理することなく、さまざまなデータモダリティ(画像、テキスト、表形式データ、時系列データ)にわたって実用的かつ再現可能な方法でモデルをトレーニングおよびサービングする必要がある開発者やMLエンジニア向けに設計されています。

ハイライト

  • 統一されたAPI: 画像分類、物体検出、セマンティックセグメンテーション、言語モデルを単一のインターフェースでサポート。
  • 統一されたCLI: 再現可能なトレーニングおよび推論ワークフローのためのコマンドラインツール。
  • 柔軟なデプロイ: 組み込みPythonライブラリ、スタンドアロンRESTサーバー、またはDockerコンテナ内でのデプロイが可能。
  • 幅広いモデルサポート: YOLOX、SegFormer、BERT、GPT-2、およびさまざまなTorchVision分類器を含む幅広いアーキテクチャと互換性があります。
  • ファイルシステムベースのストレージ: データベースを必要とせず、ディスク上で直接モデルリポジトリを管理します。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト