datawhalechina/every-embodied
仅需Python基础,从0构建自己的具身智能机器人;从0逐步构建VLA/OpenVLA/SmolVLA/Pi0, 深入理解具身智能
它解決的問題
Every-Embodied 是一個全面的學習程式庫,旨在降低進入具身人工智慧(Embodied AI)的門檻。它彌補了理論機器人學與實際實現之間的差距,提供一條從基礎模擬到重現最前沿(SOTA)模型的「從零到英雄」路徑,讓僅具備基本 Python 知識的人也能輕鬆入門。
它如何運作
該專案將學習過程分為三個逐步進階的階段:
- 基礎:專注於機器人學基礎、硬體選型以及 ROS(機器人作業系統),協助使用者設置第一個模擬機器人。
- 進階:涵蓋電腦視覺、運動規劃與強化學習,以實現「辨識-規劃-抓取」的閉迴路任務。
- 高階:探討模仿學習、視覺-語言-行動(VLA)模型、視覺-語言導航(VLN)以及 Sim2Real 部署,以重現如 OpenVLA 和 SmolVLA 等前沿專案。
它提供多種實作範例,使用 MuJoCo 和 Isaac Sim 等模擬器,並提供硬體整合指南(例如 LeRobot 與 RDK-X5 開發板)。
適用對象
- Python 初學者與轉職開發者,希望進入 AI + 機器人領域。
- 學生與研究人員,希望快速建立實務技能以完成課程專案或重現論文。
- 演算法工程師,希望將視覺、強化學習或大語言模型能力遷移至實際互動場景。
- 硬體與機器人愛好者,對從控制到 Sim2Real 部署的完整流程感興趣。
特色亮點
- 實作導向:強調「先執行、看見結果,再理解原理」的工作流程,以減少挫敗感。
- 廣泛的 SOTA 覆蓋:包含最尖端 VLA 模型、世界模型(例如 GE-Sim 2.0、tau0-WM)以及人形機器人強化學習的指南。
- 硬體整合:提供實體機器人操作的教學,包括遙控操作與特定開發板上的部署。
- 支援 AMD ROCm:包含專為 AMD 硬體重現策略的特殊教學。
- 多樣化的模擬工具:整合多種環境,包括 MuJoCo、Isaac Sim,以及專用於柔體物理的模擬器。
相關
- Dispatch
- 專案
- 專案
- 專案
- 專案