Kaggle/kagglehub
Python library to access Kaggle resources
解决的问题
kagglehub 简化了从 Python 直接与 Kaggle 资源(包括数据集、模型和竞赛文件)交互的过程。它消除了手动下载文件或管理复杂 API 调用的繁琐,提供了一种简化的方式,将 Kaggle 海量的 AI 资产无缝集成到本地或云工作流中。
如何工作
该库充当 Kaggle 生态系统的 Python 接口。它通过 API 令牌(或在 Kaggle Notebook 中自动)处理身份验证,并管理资源的下载和上传。
主要功能包括:
- 资源管理:用户可以下载模型和数据集的特定版本,或指定其中的单个文件。
- 直接加载:通过
KaggleDatasetAdapter,该库可将 Kaggle 数据集直接加载到常见的数据科学对象中,如 pandas DataFrame、Polars LazyFrame/DataFrame 或 Hugging Face Datasets。 - 环境集成:在 Kaggle Notebook 内使用时,资源会自动附加到笔记本的输入面板,并从共享缓存中提供以节省磁盘空间。在 Kaggle 外部,文件存储在本地缓存文件夹中。
- 贡献功能:允许用户从本地目录直接上传新模型和数据集(或现有项目的更新版本)。
适用人群
使用 Kaggle 获取模型和数据集,或希望以编程方式管理其 Kaggle 贡献的数据科学家、ML 工程师和 AI 研究人员。
主要亮点
- 多框架数据加载:原生支持将数据加载到 pandas、Polars 和 Hugging Face 格式。
- 灵活下载:可下载整个资源、特定版本或单个文件。
- 无缝笔记本集成:针对 Kaggle 自有笔记本环境进行了优化。
- 全面上传功能:提供简单函数,支持上传模型和数据集,可添加版本说明和文件忽略模式。
相关
- 项目
- Dispatch
- 项目
- 项目
- 项目