Tencent/ncnn

ncnn is a high-performance neural network inference framework optimized for the mobile platform

What it solves

ncnn は、モバイル、組み込みシステム、スマートフォン、PC、およびブラウザなどのリソース制約のあるデバイス上で、ディープラーニングモデルをより簡単に、かつ効率的に展開するための高性能なニューラルネットワーク推論フレームワークです。

How it works

サードパーティの依存関係がない軽量なランタイムを提供し、CPU と Vulkan GPU バックエンドの両方で動作します。モデルをフレームワークに取り込むには、pnnx を含むツールが含まれており、PyTorch や ONNX 形式から ncnn 形式へ変換できます。

Who it's for

重い外部ランタイムに依存することなく、AI モデルをエッジデバイス、モバイルアプリ、またはデスクトップソフトウェアに展開する必要がある開発者。

Highlights

  • モバイルおよび組み込み展開に最適化された高性能な推論。
  • サードパーティのランタイム依存関係なし。
  • CPU と Vulkan GPU バックエンドの両方をサポート。
  • PyTorch や ONNX からのシームレスな変換のための pnnx を搭載。
  • Android, iOS, Windows, macOS, Linux, WebAssembly, および HarmonyOS を含む幅広いプラットフォームをサポート。