asyml/texar

Toolkit for Machine Learning, Natural Language Processing, and Text Generation, in TensorFlow. This is part of the CASL project: http://casl-project.ai/

What it solves

Texar は自然言語処理(NLP)およびテキスト生成の機械学習モデルの構築、実験、プロトタイピングのプロセスを簡素化します。モジュール化されたコンポーネントライブラリを提供し、研究者や実務者がゼロからすべてを書かずに複雑なモデルを素早く組み立てられます。

How it works

Texar は Learning、Inference、Model Architecture の原則的な分解を採用し、BERT、GPT2、XLNet などの豊富な事前学習モデルと、エンコーダ、デコーダ、アテンション機構といったモジュール化コンポーネントを提供します。ツールキットは TensorFlow と PyTorch のネイティブ API と完全互換で、外部モジュールのプラグインも容易です。また、最尤推定、強化学習、対抗学習など様々な学習パラダイムをサポートします。

Who it’s for

テキスト生成と NLP の高速プロトタイピングと実験のために、柔軟で拡張性のあるツールキットを必要とする機械学習研究者や実務者向けに設計されています。

Highlights

  • Dual Framework Support: TensorFlow と PyTorch の両バージョンでほぼ同一のインターフェースを維持。
  • Modular Architecture: コンポーネントはモジュール化され、最大限の再利用とクリーンな API を実現。
  • Pre‑trained Model Library: BERT、GPT2、XLNet などの人気モデルを組み込みでサポート。
  • Versatile Learning: RL ポリシー勾配や対抗学習を含む複数の学習手法をサポート。
  • Distributed Training: 複数 GPU にまたがる分散トレーニングが可能。