huggingface/transformers

解決する課題

Transformersは、ユーザーが複数のモダリティにわたる最先端の事前学習モデルに簡単にアクセス、使用、トレーニングできるようにする集中型モデル定義フレームワークを提供します。これにより、モデルをゼロからトレーニングする必要がなくなり、計算コストと二酸化炭素排出量を削減し、統一されたAPIを提供することで、研究者や開発者の参入障壁を低くします。

仕組み

モデル定義を標準化することで、AIエコシステムのハブとして機能します。これにより、さまざまなトレーニングフレームワーク（DeepSpeed、PyTorch-Lightning、FSDPなど）、推論エンジン（vLLMやTGIなど）、その他のモデリングライブラリ（llama.cppなど）との互換性が保証されます。ユーザーは、Pipeline APIなどの高レベル抽象化を使用してモデルと対話し、迅速な推論を行ったり、モデル内部にアクセスしてより深いカスタマイズを行うことができます。

対象者

テキスト、ビジョン、オーディオ、ビデオタスク向けの最先端の機械学習モデルを、アーキテクチャをゼロから構築せずに実装したい研究者、エンジニア、開発者。

ハイライト

• マルチモーダルサポート：テキスト、コンピュータビジョン、オーディオ、ビデオ、マルチモーダルモデルに対応。
• フレームワーク非依存：PyTorch、JAX、TF2.0間でモデルを移動可能。
• 大規模ライブラリ：Hugging Face Hubを介して100万以上の事前学習モデルチェックポイントにアクセス可能。
• 簡素化されたAPI：さまざまなタスクの前処理と出力を処理する高レベルPipeline APIを提供。