huggingface/transformers

🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.

解决的问题

Transformers 提供了一个集中的模型定义框架，让用户能轻松访问、使用和训练跨多种模态的最新预训练模型。它消除了从头开始训练模型的需求，降低了计算成本和碳足迹，同时提供统一的 API，降低了研究人员和开发者的入门门槛。

运作方式

它通过标准化模型定义，成为 AI 生态系统中的枢纽。这确保了与各种训练框架（如 DeepSpeed、PyTorch-Lightning 和 FSDP）、推理引擎（如 vLLM 和 TGI）以及其他建模库（如 llama.cpp）的兼容性。用户可以通过高级抽象（如 Pipeline API）与模型互动以进行快速推理，或访问模型内部以进行更深层的自定义。

适用对象

研究人员、工程师和开发者，他们希望在文本、视觉、音频和视频任务中实现最新的机器学习模型，而无需从头构建架构。

重点特色

  • 多模态支持：适用于文本、计算机视觉、音频、视频和多模态模型。
  • 框架无关：允许在 PyTorch、JAX 和 TF2.0 之间移动模型。
  • 庞大库：通过 Hugging Face Hub 访问超过 100 万个预训练模型检查点。
  • 简化 API：提供高级 Pipeline API，处理各种任务的前处理和输出。

相关