Kaggle/kagglehub
Python library to access Kaggle resources
何を解決するか
kagglehub は、Python から Kaggle リソース(データセット、モデル、コンペティションファイルなど)に直接アクセスするプロセスを簡素化します。手動でファイルをダウンロードしたり、複雑な API 呼び出しを管理したりする手間を省き、Kaggle の膨大な AI アセットをローカルまたはクラウドベースのワークフローにスムーズに統合できる方法を提供します。
仕組み
このライブラリは Kaggle エコシステムの Python インターフェースとして機能します。API トークン(または Kaggle ノートブック内では自動的に)による認証を処理し、リソースのダウンロードとアップロードを管理します。
主な機能:
- リソース管理: モデルやデータセットの特定のバージョン、またはそれら内の個別のファイルをダウンロードできます。
- 直接読み込み:
KaggleDatasetAdapterを通じて、pandas の DataFrame、Polars の LazyFrame/DataFrame、Hugging Face Dataset などの一般的なデータサイエンスオブジェクトに Kaggle データセットを直接読み込むことができます。 - 環境統合: Kaggle ノートブック内で使用すると、リソースは自動的にノートブックの入力パネルに接続され、共有キャッシュから提供されてディスク容量を節約します。Kaggle 外では、ファイルはローカルキャッシュフォルダに保存されます。
- 貢献: ローカルディレクトリから新しいモデルやデータセット(または既存のものに対する新しいバージョン)を直接アップロードできます。
対象ユーザー
Kaggle からモデルやデータセットを調達する、または Kaggle へのプログラムによる貢献を管理したいデータサイエンティスト、ML エンジニア、AI リサーチャー。
特徴
- マルチフレームワークデータ読み込み: pandas、Polars、Hugging Face 形式へのネイティブ対応。
- 柔軟なダウンロード: 全体のリソース、特定のバージョン、または単一ファイルのダウンロードが可能。
- スムーズなノートブック統合: Kaggle の独自ノートブック環境に最適化された動作。
- 包括的なアップロード: バージョンノートとファイル無視パターンを指定して、モデルやデータセットを簡単にアップロードできる関数を提供。
関連
- プロジェクト
- Dispatch
- プロジェクト
- プロジェクト
- プロジェクト