deepdetect: 複数のモダリティにわたる統一された学習と推論のためのディープラーニング・ランタイムおよびRESTサーバー

何を解決するか

DeepDetectは、ディープラーニング・モデルのライフサイクル全体を管理するための統一されたランタイムとインターフェースを提供します。画像、テキスト、テーブルデータを含む幅広いモデルタイプについて、ユーザーが複雑なバックエンド構成を手動で管理することなく、学習、デプロイ、および推論のプロセスを簡素化します。

仕組み

DeepDetectは、Python wheel（プロセス内推論およびコマンドラインツール用）経由、長時間実行サービス用のRESTサーバー、またはDockerコンテナを介して使用できるディープラーニング・ランタイムとして動作します。学習と推論の主要なバックエンドとしてTorchを使用し、最適化された推論のためにTensorRTのサポートを提供します。システムはファイルシステム上でモデルリポジトリを整理するため、データベースへの依存を必要としません。

対象ユーザー

単一のAPIインターフェースを使用して、異なるモダリティ（コンピュータビジョン、NLP、および時系列データ）にわたってモデルを学習および提供するための、再現可能で自動化に適した方法を必要とする開発者やMLエンジニア向けに設計されています。

ハイライト

• マルチモダリティ・サポート: 画像分類、物体検出、セマンティックセグメンテーション、言語モデル（BERT, GPT-2）、テーブルデータ、および時系列データを扱います。
• 統一されたインターフェース: 一貫したモデル操作のために、CLI、REST API、およびPythonライブラリを提供します。
• バックエンドの最適化: 一般的な操作にはTorchを使用し、高性能な推論にはTensorRTを使用します。
• 柔軟なデプロイメント: Python wheelによるローカル実行、RESTによるリモート提供、およびDockerによるコンテナ化されたデプロイをサポートします。
• ファイルシステムベースのストレージ: シンプルさを維持するために、モデルリポジトリをディスク上に直接管理します。