Samsung/ONE

On-device Neural Engine

解決的問題

提供一個高性能框架,可在裝置上直接執行神經網路推論,避免依賴雲端處理。解決在基於 Linux 的作業系統上,跨 CPU、GPU、DSP 和 NPU 等不同硬體加速器執行 AI 模型的問題。

工作原理

ONE 使用編譯器工具鏈,將 TensorFlow 或 PyTorch 等框架訓練的神經網路模型轉換為統一格式。此統一格式由專用執行時執行,支援在 Ubuntu、Android 和 Tizen 等平台上的多種硬體後端。

適用對象

專為需要將 AI 模型部署至裝置硬體並優化不同處理器效能的開發者設計。

主要亮點

  • 高效能裝置內推論。
  • 支援多種硬體加速器(CPU、GPU、DSP、NPU)。
  • 支援基於 Linux 核心的作業系統平台(Ubuntu、Tizen、Android)。
  • 統一執行時支援來自 TensorFlow 和 PyTorch 的模型。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案