huggingface/transformers
🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.
解决的问题
Transformers 提供了一个集中式、统一的框架,用于访问和使用最先进的预训练机器学习模型。它消除了从头训练模型的需求,降低了计算成本和碳足迹,同时降低了开发者和研究人员在各种模态中实现高性能 AI 的门槛。
工作原理
它作为一个模型定义框架,标准化了 AI 生态系统中模型的定义方式。这种集中化使得模型能够与各种训练框架(如 DeepSpeed 和 PyTorch-Lightning)以及推理引擎(如 vLLM 和 TGI)兼容。用户可以使用高级 Pipeline API 快速实现任务,该 API 会自动处理预处理并返回文本、音频、视觉和多模态任务的输出。
适用人群
希望使用、自定义或训练最先进的预训练模型,但不想从零开始构建底层架构的研究人员、工程师和开发者。
主要亮点
- 支持文本、计算机视觉、音频、视频和多模态模型的统一 API。
- 通过 Hugging Face Hub 可访问超过 100 万个预训练模型检查点。
- 跨框架兼容性,支持模型在 PyTorch、JAX 和 TF2.0 之间迁移。
- 高级
PipelineAPI,可快速部署推理任务。
相关
- 项目
- 项目
- 项目
- 项目
- 项目