tensorflow/cloud
⛔️ DEPRECATED - The TensorFlow Cloud repository provides APIs that will allow to easily go from debugging and training your Keras and TensorFlow code in a local environment to distributed training in the cloud.
解决的问题
TensorFlow Cloud 简化了从本地调试和开发 Keras 与 TensorFlow 模型,到在 Google Cloud Platform (GCP) 上进行大规模分布式训练和调优的过渡。它消除了手动配置云基础设施、容器化应用以及设置分布式策略的繁琐工作。
工作原理
该项目提供了一个 run API,用于自动化部署流程。当用户调用 tfc.run() 时,该工具会执行以下步骤:
- 准备:将 Keras 脚本或笔记本变为“云就绪”状态。
- 容器化:使用本地 Docker 守护进程或 Google Cloud Build,将代码和依赖项打包成 Docker 容器。
- 部署:将容器部署到 Google AI Platform 进行执行。
- 监控:处理日志流式传输,并与托管的 TensorBoard 集成,用于监控和检查点存储。
它会根据提供的机器配置,自动将模型代码包装在 TensorFlow 分布式策略中(如 OneDeviceStrategy、MirroredStrategy、MultiWorkerMirroredStrategy 或 TPUStrategy)。
适用人群
使用 TensorFlow 和 Keras 并希望在不手动管理基础设施或 Docker 配置的情况下,将训练从本地机器或笔记本扩展到 GCP 的数据科学家和 ML 工程师。
特色亮点
- 无缝扩展:通过一次 API 调用,即可从本地迁移到云上训练。
- 灵活的入口点:支持 Python 脚本、Jupyter 笔记本,或在训练脚本中直接调用
run。 - 自动分布式配置:根据请求的硬件(CPU、GPU、TPU)自动配置分布式策略。
- 集成工具支持:内置对 Google Cloud Build 和 Google AI Platform 的支持。
相关
- 项目
- 项目
- 项目
- 项目
- 项目