tensorflow/tflite-support

TFLite Support is a toolkit that helps users to develop ML and deploy TFLite models onto mobile / ioT devices.

解决的问题

通过提供模型元数据管理、自动 API 生成以及用于确保训练与推理之间一致性的预处理/后处理工具,简化将机器学习模型部署到移动设备的过程。

工作原理

该工具包由四个主要组件组成:

  • TFLite 支持库:用于移动部署的跨平台库。
  • TFLite 模型元数据:用于添加和提取关于模型用途和使用方式的人类和机器可读信息的工具。
  • TFLite 支持代码生成工具:一个可执行工具,可根据模型的元数据自动生成模型包装器和即用型 API。
  • TFLite 支持任务库:一组为常见机器学习任务(如分类和检测)优化的即用型库。

适用人群

需要将 TFLite 模型部署到移动平台(Java、C++ 和 Swift)并希望从自动代码生成的快速上手到完全可自定义的推理流水线等各种选项的开发者。

主要亮点

  • 跨平台支持:支持 Java、C++(开发中)和 Swift(开发中)。
  • 自动 API 生成:使用代码生成工具根据元数据创建模型接口。
  • 优化的任务库:为热门机器学习任务提供高性能接口。
  • 一致的处理流程:包含与 TensorFlow 模块(如 TF.Image 和 TF.text)匹配的预处理/后处理实用方法。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目