tensorflow/cloud

⛔️ DEPRECATED - The TensorFlow Cloud repository provides APIs that will allow to easily go from debugging and training your Keras and TensorFlow code in a local environment to distributed training in the cloud.

解决的问题

TensorFlow Cloud 简化了从本地调试和开发 Keras 与 TensorFlow 模型,到在 Google Cloud Platform (GCP) 上进行大规模分布式训练和调优的过渡。它消除了手动配置云基础设施、容器化应用以及设置分布式策略的繁琐工作。

工作原理

该项目提供了一个 run API,用于自动化部署流程。当用户调用 tfc.run() 时,该工具会执行以下步骤:

  1. 准备:将 Keras 脚本或笔记本变为“云就绪”状态。
  2. 容器化:使用本地 Docker 守护进程或 Google Cloud Build,将代码和依赖项打包成 Docker 容器。
  3. 部署:将容器部署到 Google AI Platform 进行执行。
  4. 监控:处理日志流式传输,并与托管的 TensorBoard 集成,用于监控和检查点存储。

它会根据提供的机器配置,自动将模型代码包装在 TensorFlow 分布式策略中(如 OneDeviceStrategyMirroredStrategyMultiWorkerMirroredStrategyTPUStrategy)。

适用人群

使用 TensorFlow 和 Keras 并希望在不手动管理基础设施或 Docker 配置的情况下,将训练从本地机器或笔记本扩展到 GCP 的数据科学家和 ML 工程师。

特色亮点

  • 无缝扩展:通过一次 API 调用,即可从本地迁移到云上训练。
  • 灵活的入口点:支持 Python 脚本、Jupyter 笔记本,或在训练脚本中直接调用 run
  • 自动分布式配置:根据请求的硬件(CPU、GPU、TPU)自动配置分布式策略。
  • 集成工具支持:内置对 Google Cloud Build 和 Google AI Platform 的支持。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目