Samsung/ONE

On-device Neural Engine

解决的问题

提供一个高性能框架,可在设备上直接运行神经网络推理,避免依赖云端处理。解决了在基于 Linux 的操作系统上,跨 CPU、GPU、DSP 和 NPU 等不同硬件加速器执行 AI 模型的问题。

工作原理

ONE 使用编译器工具链,将 TensorFlow 或 PyTorch 等框架训练的神经网络模型转换为统一格式。该统一格式由专用运行时执行,支持在 Ubuntu、Android 和 Tizen 等平台上的多种硬件后端。

适用对象

专为需要将 AI 模型部署到设备硬件并优化不同处理器性能的开发者设计。

主要亮点

  • 高性能设备内推理。
  • 支持多种硬件加速器(CPU、GPU、DSP、NPU)。
  • 支持基于 Linux 内核的 OS 平台(Ubuntu、Tizen、Android)。
  • 统一运行时支持来自 TensorFlow 和 PyTorch 的模型。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目