NVIDIA Isaac GR00T N1.5：LeRobot SO-101 アーム向けポストトレーニング

NVIDIAは、Isaac GR00T N1.5 の提供開始を発表しました。これは GR00T N1 基礎モデルへの最初の大規模アップデートです。このクロスエンボディメントモデルは、開発者が言語や画像を含むマルチモーダル入力を処理し、多様な環境で操作タスクを実行でき、特定のロボットハードウェア、タスク、環境向けにポストトレーニングすることが可能です。

EmbodimentTag を用いたクロスエンボディメント適応

Isaac GR00T N1.5 は EmbodimentTag システムを利用して、さまざまなロボットプラットフォーム間でシームレスなカスタマイズを実現します。このシステムにより、手頃なオープンソースの LeRobot SO-101 アームなど、元々事前学習されていないハードウェアにもモデルを適応させることができます。ロボットを new_embodiment と指定することで、開発者は基礎モデルの推論および操作能力を特定のハードウェア構成に合わせてファインチューニングできます。

LeRobot SO-101 向けポストトレーニングワークフロー

GR00T N1.5 を SO-101 アームに適応させるには、データセットの準備から実機へのデプロイまでの構造化されたパイプラインが必要です。

データセットの準備と互換性

ファインチューニングには so101-table-cleanup データセットなど、互換性のあるデータセットが必要です。データセットを「GR00T-compatible」にするために、状態とアクションのモダリティに関する重要情報を提供する modality.json ファイルを設定します。シングルカメラ構成の場合は特定のモダリティ設定を使用し、デュアルカメラ構成の場合は別の設定ファイルが必要です。

ファインチューニングプロセス

モデルは scripts/gr00t_finetune.py スクリプトを使用してファインチューニングされます。トレーニング時の主な技術的考慮点は以下の通りです。

  • VRAM Requirements: デフォルト設定では約 25GB の VRAM が必要です。VRAM が少ないユーザーは --no-tune_diffusion_model フラグを使用してメモリ使用量を削減できます。
  • Training Parameters: 例として、単一 GPU を使用し、max-steps（例: 10,000）を設定し、data-config（例: so100_dualcam）を指定します。

評価とデプロイ

実機デプロイ前に、scripts/eval_policy.py を用いてオープンループ設定でポリシーを評価します。検証が完了したら、scripts/inference_service.py を介して推論サーバーとしてデプロイし、クライアントスクリプトを通じて実機ロボットアームと通信させます。これにより、ロボットは「ペンをつかんでペン立てに入れて」のような言語指示に基づいてタスクを実行できます。

コミュニティの洞察と技術的最適化

リリース後、コミュニティメンバーや NVIDIA の著者らは、モデル性能向上のためのいくつかの最適化戦略を提示しています。

  • Reducing Motion Jerk: ジャークのある動きを抑えるため、NVIDIA は --no-tune_diffusion_model フラグを外してエキスパートヘッド全体をチューニングし、data_config.py でアクションホライズンを拡大することを推奨しています。コミュニティユーザーは、複雑なタスク向けにデノイジングステップを 16 に増やし、アクションホライズンも 16 に設定することを推奨しています。
  • Dataset Versions: 現在の実装は主に LeRobot データセット v2 をサポートしています。v3 データセットを使用するユーザーは v2 に変換するか、GR00T N1.5 が統合され v3 をサポートする LeRobot リポジトリを利用する必要があります。
  • Generalization: 一部のユーザーは、過学習によりモデルがテキストプロンプトを無視し、データセット内の単一アクションに固執することを報告しており、max-steps のバランス調整が過学習防止に重要であることが示唆されています。

"I would suggest for anybody running this for complicated tasks, at least have denoising steps of 16 and also have like an action horizon of 16. That's the only time I managed to get good results."

利用可能なリソース

  • Model: nvidia/GR00T-N1.5-3B モデルは Hugging Face で入手可能です。
  • Code: ファインチューニングスクリプトとサンプルデータセットは Isaac-GR00T GitHub repository にホストされています。
  • Datasets: 例として youliangtan/so101-table-cleanup と youliangtan/so100_strawberry_grape が提供されています。

Sources