leptonai/leptonai
A Pythonic framework to simplify AI service building
What it solves
NVIDIA DGX Cloud Lepton プラットフォームの管理と操作のための統一インターフェースを提供します。Python またはコマンドラインインターフェース（CLI）から直接、エンドポイント、バッチジョブ、クラスターといった AI ワークロードのデプロイ、管理、呼び出しを簡素化します。
How it works
このプロジェクトは Python ライブラリと lep CLI ツールで構成されています。ユーザーは CLI を使用してエンドポイント、開発ポッド、Ray/Slurm クラスターなどのリソースを作成・管理できます。Python の Client はエンドポイントの OpenAPI スキーマを読み取り、まるでネイティブな Python 関数のようにデプロイ済みエンドポイントを呼び出すことを可能にします。さらに、Claude Code や Codex などの AI エージェントが自然言語コマンドでプラットフォームを操作できる「スキル」も含まれています。
Who it’s for
NVIDIA DGX Cloud Lepton プラットフォームを使用して AI モデルやワークロードをデプロイ・スケールする開発者や AI エンジニア向けです。
Highlights
- Unified CLI: エンドポイント、バッチジョブ、開発ポッド、ファインチューニングジョブを管理する単一の
lepコマンド。 - Dynamic Client: OpenAPI スキーマに基づきエンドポイントパスを自動的にメソッドへマッピングする Python クライアント。
- Agentic Integration: 自然言語でワークロードを管理できる AI エージェント用の組み込みスキル。
- Cloud-Native Configuration: クラウドへ直接デプロイ可能な Pythonic な設定仕様。