Eclectic-Sheep/sheeprl

Distributed Reinforcement Learning accelerated by Lightning Fabric

解决的问题

SheepRL 是一个基于 PyTorch 的强化学习(RL)框架,设计简洁且可扩展。它解决了 RL 算法与环境紧密耦合的常见问题,这通常会限制其在 OpenAI Gym 等标准接口之外的可扩展性。SheepRL 允许用户轻松地将算法与环境解耦,使其能够兼容更广泛的设置。

工作原理

该框架使用 Lightning Fabric 在不同硬件配置上加速训练。它提供了一系列开箱即用的算法(如 PPO、SAC 和 Dreamer V1-V3),支持多种观测类型(向量和像素)和动作空间(连续、离散和多离散)。它还包含大量环境的内置包装器,包括 Atari、Mujoco、MineRL 和 Crafter。

适用人群

适用于需要一个支持多种算法和 Dreamer 风格世界模型的可扩展框架,并希望使用自定义环境的强化学习开发者和研究人员。

主要亮点

  • 可扩展加速:由 Lightning Fabric 驱动,支持轻松的多设备和多节点训练。
  • 广泛的算法支持:包含 PPO、SAC、A2C、DroQ 以及 Dreamer 系列(V1、V2、V3)的实现。
  • 环境灵活性:支持大量环境,包括 Classic Control、Box2D、Atari、DeepMind Control 以及基于 Minecraft 的环境(MineRL、MineDojo)。
  • 解耦架构:专门设计用于将 RL 代理与环境接口分离。
  • 集成评估:包含专用评估工具(sheeprl-eval),用于从检查点测试训练好的代理。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目