ncnn: モバイル、組み込み、およびデスクトップ展開に最適化された高性能ニューラルネットワーク推論フレームワーク

解決する課題

ncnnは、スマートフォン、組み込みシステム、PC、ブラウザなどのリソース制約のあるデバイス上で、ディープラーニングモデルをより簡単かつ効率的に展開できるように設計された高性能ニューラルネットワーク推論フレームワークです。

仕組み

サードパーティの依存関係を持たない軽量なランタイムを提供し、CPUおよびVulkan GPUバックエンドでの動作を可能にします。モデルをフレームワークに取り込むために、PyTorchやONNX形式のモデルをncnn形式に変換するためのpnnxなどのツールが含まれています。

対象ユーザー

重い外部ランタイムに依存することなく、AIモデルをエッジデバイス、モバイルアプリケーション、またはデスクトップソフトウェアに展開する必要がある開発者。

ハイライト

• モバイルおよび組み込み展開に最適化された高性能推論。
• サードパーティのランタイム依存関係ゼロ。
• CPUとVulkan GPUバックエンドの両方をサポート。
• PyTorchおよびONNXからのシームレスな変換のためのpnnxを同梱。
• Android、iOS、Windows、macOS、Linux、WebAssembly、およびHarmonyOSを含む幅広いプラットフォームをサポート。