NielsRogge/Transformers-Tutorials

This repository contains demos I made with the Transformers library by HuggingFace.

这个项目是什么

Transformers-Tutorials 是一组动手实践的演示笔记本,展示如何使用 HuggingFace 的 Transformers 库。作者(Niels Rogge)构建这些演示是为了教人们如何使用 transformer 模型——这是 BERT、GPT-2 等工具背后的技术。

里面有什么

  • 许多不同模型的笔记本——每个演示都专注于一个特定的 transformer 模型(如 BERT、DETR、LayoutLM、Donut 等),并展示你可以用它完成的具体任务。
  • 广泛的任务范围——演示涵盖以下内容:
    • 文本分类(例如,电影评论、命名实体识别)
    • 图像处理(例如,目标检测、图像分割、深度估计)
    • 文档理解(例如,读取表单、收据和网页)
    • 生成图像和视频的标题或回答问题
    • 音频分类
  • 两种主要演示类型——大多数笔记本要么展示推理(使用预训练模型进行预测),要么展示微调(在自定义数据集上训练模型)。
  • 一键设置——每个演示都有一个“在 Colab 中打开”按钮,因此你可以在浏览器中运行它,无需在本地安装任何东西。

技术细节

  • 所有演示都用 PyTorch(一个流行的机器学习框架)编写。
  • 该项目依赖 HuggingFace 生态系统,包括 Transformers 库本身,以及 Tokenizers、Datasets 和 Accelerate 等配套工具。
  • README 为初学者提供了免费的 HuggingFace 课程的链接,该课程解释了 transformer 架构和相关库。

适合谁

任何想学习如何实际使用 transformer 模型的人——无论你是刚入门,还是想了解如何针对自定义任务微调特定模型。这些笔记本作为实用的、可运行的示例,你可以根据自己的项目进行调整。

关键要点

这是一个学习资源,而不是软件包。它是一组不断增长的示例笔记本,展示了 HuggingFace 的 transformer 模型在文本、视觉、音频和文档理解方面的实际应用。

相关

  • 项目
  • 项目
  • 项目
  • 项目