PINTO_model_zoo: エッジデバイス上でのクロスフレームワーク展開のための、事前変換・事前量子化済みモデルのコレクション

PINTO_model_zoo: エッジデバイス上でのクロスフレームワーク展開のための、事前変換・事前量子化済みモデルのコレクション

何を解決するか

PINTO_model_zooは、事前変換および事前量子化されたAIモデルの集約されたコレクションを提供します。これにより、異なるディープラーニングフレームワーク間でのモデルの手動変換や、エッジデバイス(Raspberry PiやEdgeTPUなど)向けの最適化の難しさを、複数のフォーマットで即座に使用可能な人気モデルを提供することで解決します。

仕組み

このプロジェクトは、さまざまなフレームワーク間で相互変換されたモデルの「zoo(動物園)」を維持しています。TensorFlow, PyTorch, ONNX, OpenVINO, TFJS, TFTRT, TensorFlow Lite (Float32, Float16, and INT8), EdgeTPU, and CoreMLを含む幅広いフォーマットをサポートしています。リポジトリには、画像分類、2D物体検出、およびその他のビジョンタスク用のモデルが含まれており、パフォーマンスと精度のバランスをとるために、多くの場合、複数の量子化レベル(Weight, Integer, Full Integer, and Dynamic Range)を提供しています。

対象者

エッジAIおよびモバイル展開に取り組んでおり、複雑な変換や量子化プロセスを自分で行うことなく、特定のフォーマットの最適化されたモデルを必要とする開発者や研究者。

ハイライト

  • 幅広いフレームワークのサポート: ほぼすべての主要なAIフレームワークと展開フォーマット(TFLite, ONNX, CoreML, OpenVINO, etc.)をサポートしています。
  • 広範なモデルライブラリ: 画像分類および物体検出のための膨大な数の事前量子化済みモデルが含まれています。
  • エッジ最適化: Raspberry Pi 4/3やEdgeTPUのようなハードウェアでのパフォーマンスを特に対象としています。
  • 量子化の多様性: さまざまなハードウェアの制約に合わせて、FP32, FP16, INT8, and Dynamic Range量子化のモデルを提供しています。

Sources